天美九一厂制作

【美国《时代》周刊网站11月5日报道】题：亨利·基辛格最后的神圣战争：阻止危险的人工智能(记者贝琳达·勒斯科姆)

美国前国务卿亨利·基辛格在98岁高龄之际，有了全新的兴趣点：人工智能。在2016年召开的比尔德贝赫会议期间，时任谷歌公司执行董事长埃里克·施密特说服他参加了一场对于人工智能主题的讲座，让他对此产生了浓厚的兴趣。两人与麻省理工学院苏世民计算机学院院长丹尼尔·胡滕洛赫尔合作，撰写了一本令人振奋的新书——《人工智能时代》。书中探讨了人工智能迅速崛起并投入使用所带来的影响，用他们的话说，这“预示着人类事务的一场革命”。这本书提出的观点是，人工智能的进程如此势不可挡，如此天衣无缝地嵌入人类事务，而且如此不可预知，如果没有一定的深谋远虑与妥善管理，它们将带来的“划时代转型”可能让人类历史走向危险的方向。

基辛格与施密特一同坐下来接受了《时代》周刊记者的采访，讲述了他们所展望的未来。

技术缺乏哲学引导

问：基辛格博士，您是一位资历深厚的政治家。您为什么认为人工智能对您来说是一个足够重要的主题？

基辛格：我在读大学本科时，写了一篇300页的论文，题为《历史的意义》。历史的意义和我们向何处去的主题一直占据着我的生活。技术奇迹并没有让我如此着迷；真正让我着迷的是，我们正在进入人类意识的新时期。对此，我们理解得还不够透彻。

说到人类意识的新时期，我们指的是，对世界的认知会有不同，至少像启蒙运动时期与中世纪之间的不同那么明显，当时西方世界在从宗教角度认知世界转向基于理性认知世界，这个进程是非常缓慢的。这次，转变的速度会快一些。

其中有一个重要的不同。启蒙运动时期，存在一个基于信仰的概念世界。因此，伽利略和已故的启蒙运动先驱们拥有一套当时盛行的哲学，他们要在这种背景下检验自己的思想。你可以追踪这种思想的发展演变。事实上，我们如今生活的世界没有哲学，也没有占主导的哲学观。因此，技术专家可以为所欲为。他们可以研发改变世界的东西，但没有人会说，“我们要把它融入某个东西当中”。

问：您遇到埃里克·施密特后，他邀请您对谷歌员工发表讲话，您说您认为谷歌是对文明的威胁。您为什么会这样想？

基辛格：我不希望哪一个组织垄断信息的供应。我认为，一家公司能够提供信息，并且能够根据它对公众想要什么信息或认为什么样的信息可信所做的研究来调整它所供应的信息，这是极其危险的。这样一来，真相变成相对而言的概念。我当时就是这样认为的。而他之所以邀请我与他的算法团队见面，是为了让我明白，这并非专断之举，在为呈现哪些内容所做的选择背后，有思考和分析。这并没有打消我对一个私人机构拥有这种权力的担忧。不过，我正是这样进入这一领域的。

施密特：参观谷歌的这次经历让他思考。等我们开始谈论这件事时，基辛格博士说，他非常担心这批技术给人类及其生存带来的影响，而技术专家在运用这些技术时却没有弄明白它们的影响或历史。我认为，这样的担心是完全正确的。

问：许多人觉得您现在或者过去针对技术公司所做的事情——让人感觉它们并不是真的值得信任，它们为了改善自身经营而采取的许多做法对社会来说未必是好事。考虑到这一点，您认为技术行业领袖在这个新体系中扮演什么角色？

基辛格：我认为，技术公司引领大家进入了人类意识的新时期，就像启蒙运动时期的几代人在从宗教转向理性时所发挥的作用，而技术专家正在向我们展示如何将理性与人工智能关联起来。这在某种意义上是一门不同的学问，因为说到理性，也就是我成长的环境，证据是相互印证的。说到人工智能，最令人震惊的地方在于，你得出了一个正确结论，可是你不知道其中的原因。这是一个全新的挑战。因此，从某些方面讲，他们创造的东西是危险的。但它让我们的文化向前迈进。如果从来没有创造出这种技术，我们会不会过得更好？我不知道答案。不过既然它已经存在，我们就必须了解它。而且也不能将它根除。我们已经在这上面消耗太多的精力。

人类失去思考能力

问：您认为人工智能兴起所带来的主要地缘政治影响是什么？

基辛格：我认为我们还没有深入研究过这个问题。想象一下，中美之间爆发战争，你拥有人工智能武器。和所有人工智能技术一样，这种武器对你计划好的目标能够实施更有效的打击。但它们打击自己所认定的目标时可能也很有效。因此，如果你说，“础目标是我要打击的目标”，它们可能会认为别的什么目标更符合这样的标准。因此，你身处一个有点不确定的世界。其次，因为从来没有人真正在大规模军事行动中测试过这些东西，你无法确切地知道双方的人工智能战斗机发生互动时会出现什么情形。这样一来，你所处的世界可能具有彻底的毁灭性，你的做法也存在极大的不确定性。

问：所以您担心的是人工智能过于有效吗？还有我们不能确切知道它们的行为的原因？

基辛格：我这一生大部分时间在研究我所谈论的那些问题；在人工智能这个领域，我只研究了四年。“深度思考”计算机通过和自己对弈，只用四个小时就学会了下棋。它还下了一盘人类从未见过的棋局。我们目前最好的计算机也只是偶尔能打败它。如果这种情况发生在其他领域，而这是一种必然，同时也是现实，那可是一件大事，而我们的世界根本没有为此做好准备。

问：这本书提出，由于人工智能进程的推进速度极快，有人担心人类有可能失去思考、构思和反思的能力。怎么来看待这种担忧？

施密特：我们已经从读书转变成听书，再到既没时间看，也没时闻思考、没时间讨论的地步，因为别的东西正应运而生。因此，我认为这种时间和信息的加速的确超出了人类的能力。这是势不可挡的，大家在抱怨这一点；他们沉迷其中，他们无法思考，连独自吃饭都做不到了。我认为人类不是生来就可以应对这样的局面。这让压力激素水平之类的东西激增。所以，在极端情况下，信息过载很可能超越我们处理正在发生的种种事情的能力。

我一直谈到，在这本书中也提到的一点是，你会需要一名助手。就你而言，你是一名记者，有一大堆事情要做，你会需要一台计算机助手，它会对你说：“这些是当下要做的重要事项。这些是需要思考的问题，搜索一下历史记录，会让你更加高效。”现在的问题是，你已经非常依赖这种人工智能系统。我们在书中也说了，谁来控制人工智能系统的所作所为？它有偏见怎么办？如何对出现的情况加以调控？尤其是对年轻人而言，这是个非常令人担心的地方。

假如武器自动发射

问：您在书中谈到的一点是，人工智能有好的一面和坏的一面。这要表达什么意思？

基辛格：我们要说的是，它可能确实会带来非常大的收益。它可能也是可以管控的。但在对某些方面加以管理上，还存在我们尚未开展研究或者研究得不够透彻的地方。我仍然感到担忧。我反对因为这个原因就说我们必须除掉这种技术。它现在已经存在了。重点之一是，我们认为应该创造某种哲学来引导这方面的研究。

问：您会建议由谁来形成这种哲学？下一步要做什么？

基辛格：我们需要由一些规模不大的团体来提出问题。我在读研究生时，核武器是新生事物。当时，哈佛大学、麻省理工学院和加州理工学院一些忧心忡忡的教授会在很多个周六下午碰头，表达自己心中的疑问：答案是什么？我们该如何应对？最后他们有了军备控制的想法。

问：这些团体需不需要在规模上做到国际化？需不需要在联合国的支持下做这项工作，还是在其他什么人的支持下？

施密特：这些事情通常的运作方式是，有规模相对较小、相对精英的群体一直在思考这个问题，他们需要实现对接。比如，目前有牛津大学的人工智能与伦理策略团队，这是很好的尝试。世界各地零星存在这类小规模团体。我了解到中国也有一定数量的此类团体。但这些团体没有实现对接；这只是个开始。所以，如果你相信我们所相信的东西，也就是说十年后，人工智能技术会变得异常强大，那么我们最好从现在就开始考虑这种技术所带来的影响。

我给你举个我最喜欢的例子，与军事准则有关。一切都变得更快了。我们不希望看到的局面是，武器会基于它们自己对局势的分析而自动发射。

基辛格：因为实施攻击的武器可能比人脑的分析速度更快，于是出现了恶性循环。你很想让武器变得自动，但你又不想让它过于自动，自动到可以根据你或许无法做出的判断来采取行动。

施密特：所以，当前各个大国之间没有就这一点展开讨论。不过，这是显而易见的问题。我们围绕人类速度可及的事物展开了大量讨论。可是，当一切发生得太快，超出了人类的速度时，该怎么办？我们需要就某种上限，相互的设限达成一致，需要就这些系统的最高运行速度达成一致，因为不这样的话，我们会陷入极其不稳定的局面。

避免技术遭到滥用

问：可以想见人们会觉得很难接受您会有这样的观点。因为谷歌之所以这么成功，就是因为它能够提供那么多信息，而且速度那么快。许多人会说，你们其实对这个问题的出现起了推波助澜的作用。

施密特：是的，我感到内疚。我们建立了非常非常快的平台。有时它们的速度超出了人类能够理解的范畴。这是问题所在。

问：我们有过领先技术一步的时候吗？我们不是向来都在新技术到来后才有反应吗？诚然，我们不理解正在发生的事情。可是人们当初也不理解为什么打开开关，灯会亮起来。出于同样的道理，许多人并不担心人工智能的到来。

施密特：我非常担心所有这些技术遭到滥用。我当初没有料到政府会利用互联网来干预选举。我从未想过会有这种事。我错了。我没想到互联网会如此糟糕地被用来推动反疫苗运动。我没有及时行动。我们下一次不会错过。我们会事先有所动作。

基辛格：如果你提前知道会是这种情况，你会怎么做？

施密特：我不知道。我本来可以采取不同的做法。如果我十年前就知道，我本来可以打造不同的产物。我可以用不同的方式游说。我可以用不同的方式发表演讲。我可以在事情发生之前给人们敲响警钟。

本文摘自于参考消息