霍金发出严重警告：人类终将毁在它们手上 [哈哈镜]

霍金除了对外星人入侵地球十分关注外，也对人工智能技术的发展感到担忧。霍金不止一次在公开场合对人工智能技术爆炸后出现的杀手级机器人行为进行预测，认为全自动武器站的普及使得机器人能够获得一定程度的开火权，...

霍金除了对外星人入侵地球十分关注外，也对人工智能技术的发展感到担忧。霍金不止一次在公开场合对人工智能技术爆炸后出现的杀手级机器人行为进行预测，认为全自动武器站的普及使得机器人能够获得一定程度的开火权，甚至在智能决策系统发展后超越人类的指令，直接开火。

这种杀手智能机器是极度危险的，国际天主教爱尔兰分部秘书长也指出，杀手机器人的使用就会把我们人类推离伦理和文明的社会。

越来越多的人开始关注全自武器自行选择和攻击目标的行为，即使人类的某些行为存在局限，但是我们的基本道德准则是与人*站在一起的。

目前半自主的无人机已经在美国、俄罗斯、韩国和英国等国家的军队中部署，韩国的哨兵机器人SGR-1和英国的防空武器都能够自行寻找攻击目标。

最近的联合国会谈目的是限制或禁止可能导致士兵与平民误伤的全自主武器的使用，但多数国家不同意协议中的条款，其中包括是否应该限制现有技术和未来的发展。

停止杀手机器人小组成员MaryWareham指出，战斗中攻击目标的决定应该由人类执行，从基督教的观点来看，战争已经发展成为解决世界冲突和支配人类的一种手段，它是完全错误的。如果没有对高级智能机器人进行相关限制，那么一旦恶魔被从瓶子里放出来，将很难对其进行控制。

霍金认为宇宙中也有类似的文明存在，它们会自己发展的机器人技术所取代，因此我们以后遇到的外星人可能是机器人的概率并非不可能。

事实上变形金刚这样从碳基演变成硅基的超强生命体，在宇宙中也应该存在，两种生命区别很大。

霍金认为人类如果无法控制人工智能的泛滥，只有数百年的时间就会完成演替，想想一百年前世界是什么样子，当时飞机才被刚刚发明不久！100年后的今天近地轨道已经遍布航天垃圾，在计算机技术爆炸后，机器人会更加聪明。

去年英国第一台计算机首次通过图灵测试，这意味着我们已经分不出人和电脑的区别，下一步电脑将学会思考。然而这也是板上钉钉之事。相信大家都还对20年前的人类象棋大战计算机之事记忆犹新，而近日，英国计算机Giraffe便能自主学习下象棋了。

20年前，IBM的深蓝战胜了国际象棋冠军卡斯帕罗夫，让人们感受到了计算机的强大。20年后的今天，计算机的下棋能力更是突飞猛进了。

不过，尽管计算机的速度越来越快，它下棋的方法却没有什么变化，基本还是靠蛮力，就是说，它会快速搜索所有可能的棋步，然后做出最好的选择。

与计算机相比，人类有着不同的思维方式。通过对棋局的判断，人类能够找出最有利的选择。据外媒报道，伦敦皇家大学的MatthewLai把人工智能技术用于象棋引擎的构建。他开发的象棋引擎Giraffe能够像人类一样思考。

与传统象棋引擎完全不同，Giraffe可以对棋局做出判断，自己学习下棋技巧。

自完成之日起，Giraffe下棋的水平就等同于最好的传统象棋引擎。与人类相比，它的水平等同于国际棋联的“国际象棋大师”。

Giraffe背后的技术是神经网络。在处理信息的方式上，神经网络是模仿人脑的。它拥有许多层的节点，而且，通过训练，这些节点的连接方式会发生改变。

而这些技术，将来会是机器人，或者说是人工智能拥有自主意识的技术支撑。

拜各种科幻电影所赐，“自我意识”似乎成了邪恶高科技机器人的代名词。

目前科学家已经证明了机器人可以有非常基础的自我意识，幸运的是这些机器人都非常有礼貌。

在一项实验中，一个小型机器人成功解决了一个哲学问题，其中涉及到对问题的理解和对自己声音的辨识。

来自纽约伦斯勒人工智能和推理实验室的科学家在Selmer博士的带领下进行了这个实验。他们使用了三台研究中广泛应用的Nao机器人。

三台机器人中的两台被编程成“吃了”哑巴片的状态，以此来防止它们说话。而另外一台则给了安慰剂。

在实验中，这意味着两个机器人无法出声，只有一个可以讲话。现在巧妙的地方来了：这些机器人并不知道它们中的哪一个可以说话。

研究者们问三个机器人它们中哪两个吃了哑巴片。三个机器人都尝试回答这个问题，但只有一个大声喊出了“Idontknow（我不知道）”。

这些机器人在回答这个问题之前沉默了很久，似乎在进行思考。准备好回答后，机器人站起来开始回答问题。

讲话的那个机器人在辨识出自己的声音后补充道：“Sorry,Iknownow.IwasabletoprovethatIwasnotgivenadumbingpill.（抱歉，现在我知道了。我能证明我没有吃哑巴片。）”

该机器人的反应证明了它拥有简单的自我意识，同时它还表现出了良好的教养。

在另一方面，实验还说明了机器人可以理解问题并进行推理，辨识自己的声音。

如果说这个实验在长期中向我们证明了什么的话，它证明我们的第一个自我意识机器人将会像是《星球大战》中的C-*O，而不是《终结者》。欢呼吧。

不过即便如此，人类处境也是不容乐观。一些科学家对未来进行了预测，人类将面临多重危机，而人工智能的威胁程度可以算是极高。