脸书AI机器人会自己设计语言 人工智能太可怕了！

这阵子，Facebook设计的机器人发展出自己的语言，在媒体上造成一片人工智能将逆袭的恐慌，在人工智能发展出自己的诡异语言后，Facebook工程师决定把它关起来、我们是不是创造了科学怪人...

 这阵子，Facebook设计的机器人发展出自己的语言，在媒体上造成一片“人工智能将逆袭”的恐慌，“在人工智能发展出自己的诡异语言后，Facebook工程师决定把它关起来”、“我们是不是创造了科学怪人？”等文章甚嚣尘上，然而，我们真的该开始倒数人类文明终结、人工智能统治全世界的日子吗？

最近关于“Facebook的人工智能创造出自己语言”这件事在媒体引发广大回响。

一切始于Facebook谈判实验

这一切必须回到今年6月，Facebook人工智能研究实验室(FAIR)所发表的文章开始讲起。

FAIR为了让聊天机器人学会谈判技巧，同时理解语言在谈判过程中扮演着什么样的角*，让两台机器人鲍伯(Bob)和爱丽丝(Alice)各自拥有相同数量的3种物品(书、帽子、球)，但每种物品对两个机器人的价值都不同，在不能说出价值的情况下，机器人必须在十轮对话內透过讨价还价的方式，来达到自己可得到的最高价值。

从一般的英文发展到难以参透的语言

一开始机器人确实是使用一般的英文来对话，像是说出“给我一颗球，然后我会给你帽子”等，但在不久后，它们就发展出了人类无法理解的语言，其中一个例子是这样的：

鲍伯：我可以我我任何其他(I can i i everything else)

爱丽丝：球有零给我给我给我给我给我给我给我给我给(balls have zero to me to me to me to me to me to me to me to me to)

鲍伯：你我任何其他(you i everything else)

爱丽丝：球有球给我给我给我给我给我给我给我给我(balls have a ball to me to me to me to me to me to me to me to me)

一名男子正在测试波士顿神经科学公司Neurable研发的装置，这样的装置可以让使用者用自己的意念打造出虚拟实境(vi人体ual reality)。研究人员认为，谈判机器人在做的事情其实就跟人类一样。

只是更有效率地在执行任务

乍看之下，这就像机器人创造了用来回避人类的语言，但事实上，它们只是重新组织了英文，借此来更有效率地来执行它们被交办的任务：谈判。

用人类的语言沟通没好处

FAIR的研究人员巴特瑞(Dhruv Batra)指出，当研究人员没有在谈判条件里加入鼓励机器人使用人类能理解的语言来沟通时，机器人自然会选择更有效的沟通方式。

人类也会创造缩写字

“(在沟通时，)行动主体会逐渐飘离可以理解的语言，并发明他们自己可以理解的暗语，”巴特瑞说：“就像我说‘这个’五次，你就会诠释成我要五份这个东西的复制品。(机器人创造语言)跟人类创造缩写字来沟通并没有不同。”

今年5月，5岁的哈理森(Harrison)正在跟孩童大小的机器人互动。FAIR最终把谈判机器人关起来，其实和害怕人工智能发展并没有关系。

Google翻译也有自己的语言

其实人工智能透过重新组织语言，来更有效率地执行工作并非新闻了，去年11月，Google就在博客指出，Google翻译会使用人类无法理解的“中介语言”，来翻译过去没看过的文章、或是提供更顺畅的翻译。

今年稍早，非营利研究机构OpenAI也表示，他们正在研究会发展出自己语言的AI，借此提高人工智能处理资讯、解决问题的效率。

只是跟目的不符合才关起来

至于“Facebook工程师决定把谈判机器人关起来”的说法呢？FAIR的研究人员路易斯(Mike Lewis)表示，这是因为他们的兴趣在“机器人如何跟人沟通，而不是怎么有效率地跟另一个机器人对话”，跟“害怕人工智能威胁到人类”并没有关系。

图右为SpaceX执行长马斯克。BBC相信这个话题会再次浮上台面，和马斯克、祖克伯之间的争论脱离不了关系。

其实今年6月就讨论过了

其实FAIR的测试结果在今年6月公布时，就已经引发一阵讨论。BBC指出，这件事会再次受到注目，和今年7月，SpaceX执行长马斯克(Elon Musk)与Facebook执行长祖克伯(Mark Zuckerberg)针对人工智能议题隔空交火脱不了关系。

SpaceX执行长 vs. Facebook执行长

当时马斯克在一场与政府的会议上表示，他相信人工智能对“既存的人类文明具有根深蒂固的风险”，因此建议政府要立法进行相关限制。

不过在一场与粉丝的直播问答中，祖克伯认为人工智能发展可以为人类带来更好的生活，他说：“在人工智能这件事情上，我非常的乐观。而且我无法理解那些试图要创造一幅末日景象的反对者......某种程度上，我认为这很不负责任。”

对此，马斯克仅在twitter简短地回应：“我已经和马克谈过这件事了。他对这个领域的了解是狭隘的。”

关于“人工智能征服人类”的讨论从来不绝于耳，也许这也能解释为什么我们会对FAIR的实验感到担心。

大家都会担心人工智能发展太快

不过关于人工智能的担忧是一直都存在的讨论。英国天文物理学大师霍金(Stephen Hawking)就不只一次谈到人工智能可能比人类进化更快，甚至无法掌控，微软创办人比尔盖兹(Bill Gates)也曾传达出类似的忧虑。在商业电影上，人工智能如何逆袭人类也是再常见不过的剧情。

也许不用太担心？

但根据现在的情况，BBC的科技记者巴拉努克(Chris Baraniuk)认为，人工智能是一个很广泛、有待持续发展的领域。科技网站Gizmodo则认为，如果是以FAIR的谈判机器人为例子，其实我们不需要感到太担心。