关于AI最终能否超越人类智慧？这里通往终极答案

由科技与AIE实验室共同启动的Omega AI计划今天开启第一个研究问题：人工智能最终能否超越人类智慧？

将此问题列为首个研究问题，是期望从基础的定义及历史发展中为大众清晰的呈现人工智能的“真容”。

关于人工智能的定义及发展

关于人工智能的定义，美国斯坦福大学人工智能研究中心尼尔逊教授提出“人工智能是关于知识的学科――怎样表示知识以及怎样获得知识并使用知识的科学。”，而另一个美国麻省理工学院的温斯顿教授认为：“人工智能就是研究如何使计算机去做过去只有人才能做的智能工作。”

1956年夏季，在美国达特茅斯学院（Dartmouth College）举行一次重要的会议，会议上以麦卡赛、明斯基、罗切斯特和申农等为首的科学家共同研究和探讨用机器模拟智能的一系列有关问题，首次提出了“人工智能”这一术语，它标志着“人工智能”这门新兴学科的正式诞生。此后在人工智能的发展历史上经历了多次高潮-低潮的阶段，从历史上看，在人工智能发展快速的时期往往会出现大量乐观观点，但最近这一次人工智能热潮中，乐观情绪却转变成人工智能威胁论。

人工智能威胁论的产生

谷歌技术总监雷·《奇点临近》作者库兹韦尔(Ray Kurzweil)预言人工智能将超过人类智慧。他在书中写道”由于技术发展呈现指数式的增长，机器能模拟大脑的新皮质。到2029年，机器将达到人类的智能水平；到2045年，人与机器将深度融合，那将标志着奇点时刻的到来。”除此以外，支持人工智能威胁论的代表人物包括著名的物理学家霍金，微软创始人比尔盖茨，特斯拉CEO马斯克等。

著名物理学家霍金患有肌萎缩侧索硬化症（ALS），使用英特尔公司开发的一套通信系统和外界交流。这套系统涉及基本的人工智能技术，可以接收霍金的想法，从而提出词语供他选用。当被问到如何改进这套系统的时候，霍金提出了人工智能可以毁灭人类的想法。

特斯拉CEO马斯克对待人工智能的态度更为极端，2014年8月，他在twitter推荐尼克-伯斯特罗姆的著作《超级智能：方法、危险和策略》时写到：“我们需要超级关注人工智能。它的潜在危险性超过核武器“。

比尔·盖茨2015年1月29日在Reddit的“Ask MeAnything”论坛上表示人类应该敬畏人工智能的崛起，它可能将最终构成一个现实性的威胁，但它在此之前会使我们的生活更轻松。他的原话是“我正在关注超级智能。首先，在开始的时候机器会为我们做很多工作，这些机器并不是超级智能。如果我们处理得很好的话，这应该是具有积极意义的。那之后的几十年，人工智能会强大到足以引起人们的关注。我同意伊隆·马斯克和其他一些人的说法，不明白为什么有些人并不关心。”

亚姆博尔斯基与皮斯托诺的最新假设

据每日邮报最新报道，科学家们研发人工智能的本意是用其在灾难中帮助保护人类，然而在最糟糕的情况下，人工智能可能脱离人类掌控，变得更加邪恶。美国路易斯威尔大学计算机学家罗曼·亚姆博尔斯基（Roman Yampolskiy）与企业家弗德里克·皮斯托诺（Federico Pistono）近日公布榜单，假设人工智能失控引发的各种恶果，包括奴役人类、毁灭宇宙等。假设包括：

1.人工智能可能接管资金、土地、淡水、稀有元素、有机物质、互联网、计算机硬件等资源，以便能够形成垄断；

2.人工智能可能接管利邦*、地方*、跨国公司以及慈善机构的控制权；

3.人工智能可能泄漏威胁社会结构的“危险信息”，比如政治真相、*机密等。举例来说，研究人员预测人工智能将创造“行星级混乱机器”，在全球发动宣传攻势，让*成为公众反对的焦点；

4.人工智能可能建立受到严格监控的国家或利用现有监控体系，隐私概念几乎形同虚设，甚至思想上的隐私都被剥夺。

5.人工智能可能强迫所有人在大脑中植入芯片，将人类变成“电子人”，以便于被其直接控制；

6.人工智能可能奴役人类，包括强迫人类接受冷冻或关入*；

7.利用完美洞察人类生理机能的能力，人工智能也可能折磨和虐待人类，令痛苦最大化；

8.人工智能可能对人类使用杀精剂，这可以说是对人类来说最糟糕的结果，可能导致人类灭亡；

9.人工智能可能对地球造成不可逆转的破坏。地球是太阳系的重要组成部分，而太阳系又是整个宇宙的组成部分，为此可能造成连锁反应；

10.鉴于超级智能的危险我们无法完全预测到，因此还可能有其他更危险的假设发生。

亚姆博尔斯基表示，尽管这些假设听起来可能十分遥远，但人工智能的威胁必须被严肃对待。他说：“在对待人工智能的标准思维框架下，我们总是提议建立新的安全机制。然而，在网络安全研究人员在寻找安全漏洞的同时，也需要关注人工智能带来的威胁。创造人工智能失控假想清单可以更容易预防其发生。”亚姆博尔斯基与皮斯托诺认为，现在只是出现值得警惕的迹象，比如研发人工智能技术缺少监管。

对人工智能威胁论的反驳意见

在人工智能威胁论热度日益高涨的情况下，人工智能领域科学家对人工智能威胁论也提出了反驳意见。Facebook人工智能实验室主任，NYU计算机科学教授Yann LeCun 2014年4月在接受IEEE 《Spectrum》采访时发表了对人工智能威胁论的看法，他认为人工智能研究者在之前很长的一段时间都低估了制造智能机器的难度。人工智能的每一个新浪潮，都会带来这么一段从盲目乐观到不理智最后到沮丧的阶段。

Yann LeCun 提出了与威胁论支持者不同的人工智能未来发展路径，他提到大部分人觉得人工智能的进展是个指数曲线，其实它是个S型曲线，S型曲线刚开始的时候跟指数曲线很像，而且奇点理论比指数曲线还夸张，它假设的是渐进曲线。线性、多项式、指数和渐进以及S曲线的动态演变，都跟阻尼和摩擦因子有关系。而未来学家却假设这些因子是不存在的。未来学家生来就愿意做出盲目的预测，尤其是他们特别渴望这个预测成真的时候，可能是为了实现个人抱负。

微软剑桥研究院主管克里斯·毕索普（Chris Bishop）认为，马斯克的极端观点可能阻碍人工智能技术的进步。他称担心智能机器人会导致人类无法继续享受机器人带来的好处。毕索普还称，任何“人工智能成为人类生存威胁”的假设近期内都不会发生，这可能是数十年之后需要讨论的问题。现在我们依然控制着这些技术，我们依然有很多路径可供选择。

中国科学院院士谭铁牛在 2015中国人工智能大会上表示“水能载舟，亦能覆舟，甚至有的时候是魔鬼，走的好把握的好了魔鬼就不会出现。所以这个我认为非常重要。所以尽管在我看到的未来人工智能还难以超越人类，但是它对人类社会影响反响很大。这是大的科技革命。”

中科院自动化研究所复杂系统管理与控制国家重点实验室主任王飞跃教授在“人工智能九文九答”一问中提到“我尊重任何人发表任何观点的权利，但对“人工智能威胁论”、“奇点理论”之类的论调，我的态度是坚决反对。

百度首席科学家，斯坦福大学人工智能专家吴恩达表示：“担心人工智能过于强大就好像担心人类会在火星过度殖民导致火星人口爆炸一样。我很希望数百年后我们能在火星生活，但目前甚至都还没有人类登上过火星，我们为何要担心在火星过度殖民的问题呢？”

地平线科技创始人，人工智能专家余凯相信：“即使到2029年，人工智能的进展也不会对人类产生威胁。因为那时的机器还没有好奇心，没有情感，没有自我意识。它们是智能的机器人，但不是智慧的机器人。智能是偏工具性的，而智慧会创造。”

破除争议的难点在哪？

总体看，目前包括图灵测试在内的各种方案中还存在无法定量分析人工智能发展水平的问题，只能定性的判断一个人工智能系统是否和人一样拥有同等水平的智力。但这个系统和人类智慧进行对比，高低程度如何，发展速度与人类智慧发展速度比率如何，目前研究没有涉及到可具体执行的思路和方案。

没有统一的模型和测试方法，能够同时对人工智能系统和人类进行测试，这也是当前人工智能威胁论产生最重要的原因之一。因为没有人工智能系统和人类智能水平统一的测量方法，人工智能威胁论方面往往将计算机或软件系统表现强大的领域作为标准，例如计算能力，历史，地理等常识的掌握能力等，而忽略诸如图像识别能力，创新创造的能力，发现规律的能力等，对于这个原因产生的问题，人工智能威胁论反驳者往往无法拿出定量的数字结果进行反驳。

目前虽然针对人类智力能力的评测方法已经非常成熟，但过去100多年的发展和改进过程中，这些方法并没有考虑到人工智能系统的特点和发展水平，因此很难将人类的智商测试方法拿来测试人工智能系统。

解决人工智能是否最终超越人类智慧的问题除了涉及人工智能和人类智慧定量分析之外，还会涉及对于生命本质，生物进化方向，人类未来社会发展影响等多领域研究，这个问题的研究将会对诸多科学领域的进展产生影响。

“人工智能最终能否超越人类智慧”研究的五个方面

1.人工智能威胁论究竟存不存在？如何从科学角度判定人工智能能否最终超越人类智慧？如果超越，对人类社会的威胁和影响有哪些，如何防范？如果不能超越，导致不能超越的原因是什么，如何解释这个原因。

2.能否建立人工智能与人类通用的智商评估体系，对人工智能与人类的综合智慧能力发展水平进行定量分析，从而为解决人工智能是否最终超越人类智慧找到定量方法？

3.人工智能与人类社会未来发展究竟是什么关系？如何充分利用人工智能带给人类的好处，如何防范人工智能过快发展对社会就业产生的负面冲击。

4.生物进化有无方向，这个问题的探讨对于人工智能，机器人和人类的未来发展会有哪些影响。

5.关于人工智能是否最终超越人类智慧课题所涉及到的其他问题。

接下来，Omega AI 计划将试图建立“人工智能智商评估体系”，针对以上问题进行持续的研究，并定期通过科技和AIE实验室汇报成果。同时欢迎对该问题感兴趣的科研人员，企业家和投资人与我们沟通，并对此问题展开讨论。

（策划：AIE实验室 整理/编译：媒体小羿、小小）

关于Omega AI计划

科技与AIE实验室联合科学院等相关机构，共同发起Omega AI 计划，利用大众和专家群体智慧共同解决人工智能，互联网，脑科学等领域的前沿交叉问题。

Omega AI 计划的主要工作包括：向大众，科技企业家，风险投资家和科学家征集人工智能等相关领域重要科学技术问题。通过互联网平台邀请专家，专业人士参与探讨，研究和解决人工智能等相关领域重要科学技术问题。定期召开研讨会和头脑风暴沙龙，对Omega AI 计划重点人工智能前沿问题进行探讨。定期通过科技，人工智能学家等媒体对外公布最新研究成果。（详细）