技术奇点：揭开人工智能的神秘面纱

书名：《技术奇点》

作者：（英）默里-沙纳汉

出版社：中信出版社

出版时间：2016年5月

内容简介

当今社会，新技术给经济发展提供了前所未有的动力，科技改变着人们的生活方式，改变着人类社会经济发展和前进的速度。人工智能技术作为引爆下一场财富革命的决定性力量，重塑人类未来生活的关键性技术，在经济发展中起着举足轻重的作用。

这本深入阐释人工智能的著作是默里-沙纳汉在这一领域深耕多年的思想精髓。他以明白晓畅的语言讲述了我们可以通过哪些方式实现人类水平人工智能，以及在实现人类水平人工智能之后，我们是否会迎来颠覆一切的技术奇点。针对人类对发展人工智能的盲目乐观，默里-沙纳汉尖锐地指出了许多曾被我们忽略的问题：人工智能会有感情吗？如果人类无休止地压榨人工智能，它们是否会奋起反抗？

作者简介

默里-沙纳汉，伦敦帝国理工学院认知机器人学系教授，负责指导动力学组的研究。毕业于帝国理工学院、剑桥大学，2006起担任帝国理工学院教授至今。

默里-沙纳汉是奥斯卡获奖影片《机械姬》的科学顾问，作品横跨人工智能、机器人学、逻辑学、动力系统、计算神经科学和哲学思想等多领域，经常在媒体上就人工智能和机器人问题发表评论。

前言

近年来，随着科学技术的迅猛发展，“奇点”这个概念已经从科幻小说逐渐转移到了严肃的学术讨论中。人们认为当前人类历史的发展阶段距离奇点已越来越近。物理学中的奇点指的是在时间或空间的某一点上，出现了类似黑洞或者宇宙大爆炸的情况，数学已经不再适用，人类也无法理解。人类历史中出现的奇点指的是由于技术的迅速发展，人类社会中的一切都出现了改变，生活在今天的我们将无法理解。今天被我们当作理所当然的一切（经济、*、法律、国家）会改变形态，人类最根本的价值观（生命的尊严、对幸福的追求、选择的*）也会被淘汰。我们对人类之所以为人的理解（人性、生存、意识、社会秩序）提出疑问，不是通过漫无边际的哲学思考，而是由真实存在的环境所推动。

什么样的技术进步会带来这种剧变？本书将要验证的假说是：人工智能和神经技术这两个领域的技术进步会加速奇点的到来。我们已经破解了生命的秘密，能够理解基因和 Dna的工作原理。生物技术带来的改变已经非常巨大，但是和人工制造思维的能力相比，就差多了。

从某种重要的意义上来说，今天的智能是固定的，这影响了技术进步的广度和速度。几千年来，人们掌握的知识已经非常丰富，而且随着文字、印刷术和互联网的出现，传播知识的能力也增强了。但是，创造知识的器官（有智慧的人的大脑）在过去的几千年中变化不大，认知能力的秘密还没有被我们揭开。

如果人工智能和神经科学能充分发挥潜力，这种情况将会改变。如果不仅是智能创造技术，技术反过来也可以创造智能，那么就会产生一个循环。这个循环的结果是难以预料的，可能带来爆炸性的改变。作为原来的创造者，如果智能也可以被创造出来，那么它就可以提升自己。根据奇点理 论，不久以后，这个循环中就不再需要人类了，人工智能 或进行过认知改造的生物智能将占据主导地位，人类已经跟不上了。

我们需要认真对待奇点理论的假说吗？又或者它只适合出现在科幻小说里？雷 库兹韦尔认为我们应该认真对待这 一假说，并提出了“加速回报定律”（The law of accelerated return）。如果一项科技符合加速回报定律，那么这项科技越 先进，它进步的速度就越快，在一段时间以后就会实现指数 级进步。一个很好的例子就是“摩尔定律”（Moore’s law），一块芯片能容纳的晶体管数量每隔 18 个月左右就会翻番。令人惊讶的是，半导体行业几十年来的发展趋势一直遵循摩尔定律。 信息技术发展的其他指标，例如 cPu（*处理器）的时钟频率和网络带宽，也一直在以指数级速度增长。然而，信息技术不是唯一高速发展的领域。在医学领域，Dna（脱氧核糖核酸）测序的成本快速下降，测序的速度则呈指数级上升，大脑扫描的分辨率也在以指数级速度上升。

从历史的角度来看，出现重大技术进步的时间间隔在缩短：从农业、印刷术、电力到电脑。除了技术的进步，进化过程中出现里程碑式突破的间隔也在不断缩短：从真核生物、脊椎动物、灵长类动物到智人。很多评论家认为人类发展的轨迹是一条复杂的曲线，一直延伸到远古时代。但是，我们只需要研究这条曲线中科技的部分，并推演科技曲线的未来趋势。我们发现，未来会出现一个转折点，人类发明的技术会让自己落伍。

由于物理规律的制约，指数级技术发展最终会遇到瓶颈。指数级技术发展的停滞可能有各种经济、政治或者科学的原因。但是，我们先假设与人工智能以及神经技术最相关的发展将会保持势头，加快破解大脑秘密的速度，并且最终合成人工智能。我们不难相信，不管是人工智能还是人类智能，都会遵循加速回报定律，最终到达技术奇点。

有些作者预言，奇点的到来会在 21 世纪中叶。我们可以不把奇点只作为预言来研究，预言毕竟是比较虚无缥缈的。首先，奇点是一个很有意思的深刻的学术话题，无论它最后是否真的会出现或不知什么时候出现。其次，奇点出现的可能性虽然看起来很微小，但是却值得我们从务实的角度，在理性的基础上讨论它。即使未来学的理论有瑕疵，但只要未来学描述的场景存在可能性，就值得我们认真关注。如果奇点真的出现，对人类来讲，其后果将是颠覆性的。

这些颠覆性的后果都有哪些？如果人类到达奇点，世界会变成什么样子？我们对奇点的到来是应该恐惧，还是应该欢迎？人类在今天或未来应该做些什么来保证最好的结果？本书旨在回答这一系列非常宏大的问题。奇点这个概念会引发我们对一些更加原始的哲学问题的讨论：人性的本质是什么？人类最根本的价值观是什么？我们应该如何生存？人类为了迎接奇点需要放弃什么？奇点在给人类的生存带来机遇的同时，也带来挑战。

奇点的到来可能会威胁到人类的生存。这听起来像是大其词，但是今天的新兴技术已经超越了以往，是人类从来没有见过的。可能会有人研制经过基因改造的病毒，提高其传染性和抗药性只有疯子才会做这种事，但是，人类有可能意外地制造出带来灾难的病毒。高级人工智能也有可带来生存威胁，其原因相似，但更微妙。我们会在后文中研究这些问题。如果未来某个公司、*、组织，甚至是个人有可能制造出能实现指数级自我提升、极度渴求资源的人工智能，这一可能性足以让我们提高警惕。

从乐观的角度来看，技术奇点带来了生存的机会，也就是哲学上的“存在”的意义。当我们有能力构建大脑时，就可以突破生物的限制，延长人类的寿命。人类的最终极限就是死亡，生物的身体是很脆弱的，会受到疾并意外伤害和衰老的限制。人类的意识依赖其生物大脑，但是，未来人类将有能力修复任何对大脑的损害，并最终在其他基质上构建大脑，这样就可以突破意识的寿命极限，将其无限延长。

延长生命是“超级人类主义”的一个分支，但是我们为什么要满足于人类的大脑？如果我们能够重建大脑，为什么不通过重新设计，提升大脑的能力呢（人类的身体也可以通过重建提升，但是本书只讨论智能）？通过医药手段可以提高记忆力、学习能力和注意力，这是比较传统的提升方法。但是，既然人类能够从无到有重建大脑，就一定能对认知能力进行重组和提升。当我们具备了这种提升能力，又该做什么呢？有些人认为，这种能力至少能够应对超级智能带来的存在风险，赶上人工智能的发展脚步，不过在这个过程中人类的认知方式可能会发生根本改变。

技术奇点可能是一种生存机会，要理解这一概念，必须放弃人类的视角，采取一种更具宇宙性的视角。“人类社会和生活在人类社会中的人们的大脑已经到达了宇宙的极限”是一种人类中心主义的想法。也许智能的复杂程度还有很大的提升空间。可能未来还会出现比我们更高级的意识形式。

我们应该阻止还是迎接这一情况的到来？我们能理解这样的未来会是什么样吗？不管奇点是否已经临近，这些问题都值得思考。因为在思考这些问题的同时我们对自身有了新的理解，也理解了我们在大千世界中的位置。

（责任编辑：孔令孜 HB001）