图灵测试为什么可怕(图灵的初恋叫什么)

导读:3.14要来了。数据大叔想和你聊聊一个大人物，一部电影，一本书。

作者:数据大叔

来源:华章科技

▲圆周率节传统美食——派，图片作者：Kalki▲π节传统食物——馅饼，迦尔吉拍摄

3月14日永远是“热闹”的，这一天是白色的一天，这一天与科技圈有些特殊的缘分。首先，3.14是圆周率节。那么，在这一天，我们将纪念人类科学史上的两位重量级人物:

阿尔伯特·爱因斯坦（Albert Einstein），1879年3月14日出生。斯蒂芬·霍金（Stephen Hawking），2018年3月14日逝世。

虽然他因为健康问题而被限制在轮椅上，但霍金的思考范围总是关系到全人类。不用说，作为量子引力研究的“老本行”，霍金在业余时间也为人类的未来操过心。霍金多次发表“人工智能威胁论”，给风口上的AI泼冷水。

那么霍金到底说了什么？为什么值得深思？

01 霍金：计算机智能与我们没有本质区别

作为一个严谨的科学家，霍金总能让那些沉迷于不靠谱科幻梦的人清醒过来。比如他曾经举办过一次时间空旅行者聚会，邀请那些掌握了“穿越”技术的未来人参加。约定的时间到了，除了霍金本人没有人来，证明未来人根本没有“穿越”能力。

(对了，你也可以在自己家办一个，看看是不是只有你能参加这个聚会。)

霍金对外星人的态度和他对AI的态度很像。他警告人类不要接触外星生命，否则会自杀。

对于近年来被资本追逐的人工智能，远离利益关系的霍金更强调风险而非收益。

在2017年全球移动互联网大会(GMIC)上，霍金发表了“让人工智能造福人类及其赖以生存的家园”的主题演讲。他提到:

我相信生物大脑能做到的和计算机能做到的没有本质区别。所以它遵循的原理是计算机可以在理论上模仿人类的智能，然后超越它。

一旦人工智能脱离束缚，重新设计自己处于加速状态，人类因为漫长的生物进化而无法与之抗衡，将被取代，这将给我们的经济带来巨大的损害。

未来人工智能可以从我的意志发展，一个和我们的意志冲突的意志。[1]

为什么人工智能和人类没什么区别就很可怕？我们可以用一个句型来回答这个问题:比你聪明的人比你努力。你还有活路吗？

下面这部片子可以更清楚的说明这个问题。

02 通过图灵测试的AI有多可怕？

电影《Ex _玛奇纳》中有一句经典台词，也表达了计算机/人工智能和人类没有本质区别:

人脑是否被编程，这个讨论涉及到人类是否有自由意志的哲学问题。先把哲学问题放一放(其实是把哲学问题放一放)再来看这部电影的故事背景:

一家知名搜索引擎公司的程序员Caleb幸运地获得了老板Nathan的大奖，他将被邀请去他的豪宅度假。事实上，天才老板内森邀请凯莱布的真正目的是对内森研发的人工智能智能机器人艾娃进行图灵测试。[2]

那么让我们了解更多关于图灵测试的知识:

图灵测试是指测试者(提问者)在与被测试者(一个人和一台机器)分离的情况下，通过一些设备(如键盘)随机向被测试者提问。经过多次测试，如果超过30%的测试者不能确定被测试者是人还是机器，那么这台机器就通过了测试，被认为具有人类智能。“图灵测试”并没有规定提问的范围和提问的标准，但它为人工智能科学提供了一个开拓性的思路。

图灵在计算机出现之前就预见了具有逻辑思维的机器，并预言计算机将在20世纪末通过图灵测试。[3]

▲图灵测试示意图，出自《大话机器人》▲图灵测试图，来自《大话机器人》

在影片中，Caleb对艾娃进行了升级的图灵测试，因为传统的图灵测试对艾娃来说不再具有挑战性。也就是说，内森直接告诉凯莱布艾娃是人工智能，让凯莱布直接联系艾娃，相当于拿着放大镜“挑毛病”，看能不能找到艾娃的破绽。

注意，图灵测试并没有提出量化的技术指标，也没有要求机器智能的科技含量有多高。相反，它区分了机器和人类。它关心的是这个机器看起来是否像人类。

然后“考官”才能有技巧。比如机智的迦勒选择了情感路线。冰冷的机器不可能有情感。如果艾娃能够表现出与人类相似的情感系统，那么她已经通过了图灵测试。

结果，艾娃不仅通过了图灵测试，还让凯莱布感觉真实。

所以当内森告诉凯莱布《艾娃》只是一个中间版本，“生命”最终会结束，被一个新版本取代时，凯莱布无法掩饰自己的失望。

在这里，内森再次表达了人工智能与人类的相似之处:艾娃不是最终版本，就像你我都不是最终版本的人类，最终都会被后来者取代。

看到Caleb仍然很失望，Nathan抛出了另一句经典台词:

这类似于霍金所说的“人类无法与之抗衡，将被取代”。

但是迦勒仍然选择站在艾娃一边。在电影的结尾，艾娃杀死了内森，囚禁了凯莱布，逃离了与世隔绝的豪宅，来到了她向往的城市的十字路口。

在这里，作为观众，如果你也是“考官”，你会发现艾娃也通过了你的图灵测试——艾娃和人类一样，有自己的欲望，有自己的审美，自私，残忍，欺骗…

这就是人工智能通过图灵测试的后果——就像人类一样，意味着人工智能不仅有人类的优点，也有人类的缺点。

所以，像人类一样设计人工智能，让他们通过图灵测试，是非常危险的。

▲穿上看上去有点土的连衣裙、高跟鞋，为成功进入人类世界回眸一笑的Ava▲换上一件看起来有点土的连衣裙和高跟鞋，回头对成功进入人类世界的艾娃微笑。

人工智能有错吗？图灵错了吗？我认为错误可能是人为的。今天，虽然人类有许多优势，但他们还没有明智到找到一种与同胞、其他物种和地球和平相处的方式。

对了，这部电影在豆瓣是不是被低估了？我也这么认为我也看了差评。很多人执着于一些不太重要的细节。例如，他们必须使用房卡开门。这么先进的时代，没有指纹识别，人脸识别之类的。或许观众的期待是一部充满酷炫黑暗科技的科幻片，但我觉得这部电影的亮点并不是那些可以通过特效制作出来的虚拟场景，而是关于人工智能和人类自身的思考和探讨。

03 脆弱的“机器人三定律”

我之所以很喜欢这部电影，可能也是因为对它有着不一样的期待。前几天看到《大话机器人》这本书推荐了这部电影，并简单介绍了剧情，所以我期待的是一部探讨人工智能和人类未来的电影。我也很期待看到通过图灵测试的人工智能是什么样的。

《大话机器人》这本书简直就是全世界机器人的全集。从中国古代三国时期诸葛亮发明的牧牛刘妈，到现在大热的波斯顿动力狗，都在书籍中出现过。书中还盘点了各国影视作品中的机器人。除了上面提到的艾娃，还有哆啦a梦，阿拉蕾，钢铁侠，终结者…满满的童年回忆，总有一个是你的最爱。

回到现实，《大话机器人》介绍了从工业到家庭，各种不同类型、不同功能的机器人的应用。可以说机器人无处不在，你的生活每天都会受到机器人的影响。

机器人和人工智能本来是两个概念，但两者的结合往往是最精彩的。艾娃是一个人工智能人形机器人。人类总是对和自己相似的机器人有一种特殊的偏好。这种相似性既包括外貌——人类形态，也包括思维方式——人工智能。这种偏好也不难理解:

塑造一个和自己相似的生物，是人类自我认知的证明。但幻想终究是幻想，不可能变成现实。在现实的科技面前，幻想会打折扣，打折扣的结果就是创造出一个没有自我的可以代替自我的机器。这样，机器人就是人类幻想和科技现实之间妥协的产物。[3]

但是，我们可以看到，艾娃并没有给人类带来任何好处，反而是危险的。在机械纪的差评中，有人提到不符合“机器人三大定律”。1942年，科幻作家阿西莫夫在作品中提出了“机器人三定律”:

定律一:机器人不能伤害人类，或者说不能做任何伤害人类的事情。

定律二:机器人必须执行人类的命令，除非这些命令与第一定律相冲突。

定律三:在不违反第一、第二定律的前提下，机器人必须保护自己不受伤害。[3]

但是你会发现这三个定律并不完美。假设机器人正在目睹人类之间的犯罪。根据法律1，它只能以孤注一掷的努力来保护受害者，却不能正当地为加害者辩护。这样，它最终会受到伤害，失去保护受害者的能力。后来，阿西莫夫补充了第0定律:

定律0:机器人不能伤害人类，除非它发现它能证明所做的伤害会对人类有益。[3]

“机器人三定律”不仅影响了大量的科幻作品，在现实中，一些机器人和人工智能设计也将其作为伦理基础。

虽然被称为“定律”，但其实这些定律并不是像牛顿定律那样客观存在的自然规律。这些法律是否有效，很大程度上是由人类决定的。有时候，人类的智慧是有限的，无法确定。

比如《大话机器人》最后一章提到了几起工厂里机器人伤人杀人的事件。我认为这些机器人的设计者肯定不希望他们的产品伤害人，但程序会出错。机器人“以为”自己在切割钢板，其实是一个活生生的人。

还有，像艾娃这样的人工智能机器人，首先内森在设计她的时候很可能选择了忽略“机器人三定律”；另外，人工智能有学习的能力。如果她进阶到一定程度，她能学到的东西很可能就不再受人类控制了。所以即使内森怀着极大的良知遵守了“机器人三定律”，艾娃也可以在“进化”过程中选择不遵守它们。

04 一点点小结

内森奇点来了，我们不知道它在现实中离我们有多远。可惜，为全人类担忧的霍金先生没有等到这一天。现在，我们只能为自己多做运动而烦恼。

无论是机器人还是人工智能，不可否认的是，如今，它们都在为人类创造财富，输出价值，让我们的生活变得更美好。但是我们不能忽视一些潜在的威胁。

最后，以霍金的警告结束本文:

人工智能的成功创造将是人类历史上最重要的事件。但这也可能是人类历史上的最后一个事件，除非我们学会如何规避风险。

(成功创造人工智能将是人类历史上最大的事件。这也可能是最后一次，除非我们学会如何规避风险。)[4]

相关:

[1]虎嗅——霍金再抛人工智能威胁论:人脑和计算机没有区别。

https://www.huxiu.com/article/192315.html

[2]豆瓣——机械纪

https://movie.douban.com/subject/4160540/

[3]《大话机器人》，高德东主编，机械工业出版社，ISBN: 978-7-111-62842-2。

[4]英国广播公司-斯蒂芬·霍金警告说，人工智能可能会终结人类

https://www.bbc.com/news/technology-30290540

延伸阅读《大话机器人》阅读“会说话的机器人”

推荐:一本给大家的机器人知识科普书！跳出机器人学枯燥的理论，以丰富的信息和独特的视角阐述机器人的前世。