人工智能＂创造＂语言不可怕 这三点才是令人担心的

在过去的几周里，你可能看到过你的Facebook好友分享过这样一篇文章，内容是关于一对由人工智能驱动的Facebook聊天机器人是如何偏离他们最初设定的程序，并发明自己的语言的。

关键是：Facebook创建了两个人工智能聊天程序，可以相互交谈（并互相学习），最终他们停止了用英语交流，并开始用一种非英语的语言进行交流，这些语言是它们自己“发明的”。

新闻头版纷纷报道了这一事件，从夺人眼球的噱头到抽丝剥茧的分析，如每日电讯报的“聊天机器人发明新语言进行沟通Facebook*选择关闭”，让人听起来像是这些聊天机器人正在密谋反抗人类，或是对人类构成威胁。随便看看这些新闻底下的评论，你就会发现大家的反应有恐惧、兴奋甚至高兴，有人说道“这一天终于来了”或引用其他艾萨克·阿西莫夫小说中的语句。

但正如Facebook人工智能部的艾特鲁夫巴特拉周一指出的那样，几十年来，人工智能一直在“发明”新的沟通方式，所以这其实算不上新闻。此外，他还解释说，与新闻标题相反的是，这个实验并没有被关闭，只是为了调整语言交流而改变了。

此外，公司也没有试图隐瞒实验细节。所有的一切都是公开的，所有的细节都可以在GitHub上查到，允许其他程序员复制这个场景。

底线是：在人工智能方面，新的人工智能语言不该是我们担心的问题。

下面才是我们应该担心的事情

像埃隆·马斯克和比尔·盖茨这样的有技术头脑的人已经贡献了大量的时间和金钱，来解释人工智能是一种威胁，并寻找新的方法提高其道德水平。

这些才是我们应该关注的主要领域：

武器：

武器军用无人机已经投入使用，自动化武器被认为是第三次战争革命。自动化的智能武器让更少的士兵受到伤害，而且远比战斗机或核材料等先进技术便宜。例如，当前的“收割者”无人机价格约为1300万美元，而一架战斗机的价格为1亿美元。在未来，它们将变得更加廉价，而且不受监管（也意味着极其强大）的移动武器也将更加便宜，任何人都可以通过编程来杀死和摧毁对方（除非我们主动采取安全措

施）。

控制：

控制也许最重要的不是人工智能本身，而是谁在控制它。我们正在应对的是那些有能力重塑世界的力量，如果它们被贪婪的公司、渴求能源的国家、甚至是善意的个人所垄断，这些人根本不知道自己在做什么，那么这项技术很容易被滥用或误用。这就是为什么硅谷的一些影响者和人工智能研究人员聚集在一起，成立OpenAI，这是一项让全世界都能使用人工智能的倡议，而不仅仅是一群特别的人。这一举措并不“便宜”，据报道，该项目一位顶尖的人工智能研究人员的报价是其市场价值的两到三倍。

发展：

人工智能的另一个问题是在不受参数控制的情况下，人工智能的发展速度。通用人工智能（AGI）具有指数级的成长能力，因为它将会自我提升，并且在某一时刻会超过其创造者的智力。农业时代延续了几千年，工业时代延续了数百年，信息时代持续了几十年，如今人工智能时代仅开始数年；技术的增长持续加速而不是直线发展，而现在，任何进一步的加速都会让我们毫无准备地应对后果（如果我们采取被动的态度，而不是积极的姿态）。我们还没能创造出超级智能，但我们已经掌握了处理能力——中国的天河2号每秒能计算34千万亿次计算（cps），远超人类大脑（10千万亿秒）。

如果我们想要负责任地运用这种计算能力，我们需要有一个基础来应对它无限制的发展。这意味着要理解人工智能发展的伦理道德，如何限制它的使用，以及在出现问题时采用适当的防护措施。

关于人工智能如何被使用以及未来如何发展，目前存在一些严重的担忧。然而，过度地将被测试的系统个人化，或者被标题误导我们的观点是不负责任的。聊天机器人发明一种新语言并不是威胁，它是顺其自然的，还有其他更重要的事值得我们的注意。