霍金:人工智能不会毁灭人类 反而有助于疾病治愈

当一个由知名人工智能专家组成的小组被问及是否有可能开发出超级智能时，他们的答案是一致的：有可能。到现在，关于计算机是否比人类更聪明的争论已经不再存在了。

今年早些时候在加州举办的这个座谈小组由人工智能领域的多位“知名人物”组成：

巴特·塞尔曼（康奈尔大学）

大卫·查尔默斯（纽约大学）

埃隆·马斯克（特斯拉，SpaceX）

扬·塔里安（CSER/FLI）

尼克·博斯特罗姆（FHI）

雷·库兹韦尔（Google）

斯图尔特·拉塞尔（加州大学伯克利分校）

山姆·哈里斯

戴密斯·哈萨比斯（DeepMind创始人）

虽然从理论上讲——考虑到我们对物理定律的理解——计算机超越人类的智慧，再到“超级智能”的实现是可行的，但这种情况的发生几率肯定是微乎其微的。

但是根据该小组的每一位成员的说法，这很有可能。当被要求回答“AI会达到超级智能吗”这个问题时，（回答可以是“会”或“不会”或“这很难说”），每个成员的回答都是“会的”。

埃隆·穆斯克甚至假装不同意其他小组成员的意见，这在很大程度上让观众和台上的一些人感到高兴。也许是因为当绝顶聪明的人完全站在同一条战线上时，就会出现这种尴尬的情况；没有辩论就很难进行科学研究。

如果我们接受人工智能将达到“超级智能”的想法，那么我们就该明白这意味着什么，以及它什么时候会发生。

Nick Bostrom教授已经写了一本关于超级智能的书。在他的书中，他将超级智能的概念定义为“一个虚拟代理——它的智力远远超过了最聪明、最具天赋的人类的智力。”

它会比我们更聪明，这意味着我们将无法理解它——而我们现在也不能理解它。

关于人工智能的一个显而易见的事实是，没有人能够预测很长时间以后会发生什么。机器学习的进步来得如此之快，所以那些认为我们知道接下来的六个月将会发生什么的想法可能太过天真。

我们正处在一个未知的领域。

但这和史蒂芬·霍金有什么关系呢？

霍金教授在最近接受《连线》杂志采访时表示，人工智能是一场技术革命：

也许有了这种新技术革命的工具，我们就能消除上一次工业革命对自然世界造成的损害。当然，我们的终极目标是消除疾病和贫困。我们生活的方方面面都会发生改变。简而言之，创造人工智能的成功可能是人类历史上最重大的事件。

他不是唯一一个相信人工智能将永远改变我们生活的人。Nick Bostrom教授说，人工智能代表了第三次“人类状况的根本改变”。

根据Bostrom的说法，第一次是农业革命，紧随其后的是工业革命。如果人工智能超过人类智能，我们就能实现下一场技术革命。

很难找到一个标准来衡量人工智能是否能产生与工业革命一样大的影响——尤其是现在大多数新闻标题读起来像科幻小说里的情节。

在同一场采访中，霍金教授也说：

我担心人工智能可能会完全取代人类。如果人们能够设计电脑病毒，那就有人会设计出能够改进和复制自身的人工智能。这将是一种超越人类的新生命形式。

霍金教授可能并不是在建议我们停止研究人工智能，转而成为卢德派。

我们能够很容易地理解杀手机器人接管世界的想法。这样的情节我们在电影中已经看了十几遍了。更重要的是，通过毁灭视角来看待未来总是更容易的，否则就会被现实所扭曲。

电影和科幻小说所描绘的未来世界，看起来基本上还是今天的样子，只不过是多了一些更酷的小玩意和青少年们喜欢用的俚语。试图解释人工智能所带来的革命性的世界将会是一件困难的事情。

本月早些时候，Bostrom教授对英国议会的人工智能委员会成员说，根本没有办法做到这一点：

就像任何新的通用技术一样，最令人兴奋的应用在一开始并不是很明显，只有当人们开始使用这项技术时才会被发现。

那些新闻标题——比如这篇文章的标题——告诉我们，斯蒂芬·霍金和埃隆·马斯克认为人工智能可能会毁灭人类，而这是真正的对话的“快餐式新闻”版本。

而真正的关键在于马斯克和霍金都对机器学习技术抱有兴奋和渴望的乐观情绪。霍金教授认为人工智能可以治愈疾玻马斯克在开放人工智能领域投入了大量资金，该基金会的使命是：

通用人工智能（AGI）将是人类有史以来创造的最重要的技术。

如果我们被夸张和恐惧的情绪占据，那会让我们所有人都成为反对者。更实用的方法（就连认为人工智能会引发第三次世界大战的埃隆·马斯克都已经采用这种方法），是在谨慎、乐观和维护所有人类的最佳利益的基础上向前迈进。