对话马斯克：如何防止人工智能掌控世界

注：特斯拉CEO Elon Musk和YC掌门Sam Altman联合创办了非盈利人工智能项目OpenAI，想要研发“仁慈”的人工智能，同时将研究数据开源，避免人工智能集中在少数人手中。该团队已经招揽了大批世界级人才。本文对OpenAI的两位创始人进行了采访，深入了解他们创立OpenAI的初衷以及运行构想。

人工智能这个领域过去似乎并没有这么火热，而现在，像谷歌、苹果、Facebook、微软，甚至是日本丰田之类的汽车公司都开始争相雇佣人才，踏入这个与众不同的新市常

2015年12月12日，特斯拉CEO Elon Musk在推特上正式宣布启动非盈利人工智能项目OpenAI，立誓公开研究成果，包括代码和专利，和世人共享。一些人担心一旦人工智能超越了人类智能，会发生像电影《终结者》那样的末日之灾。而OpenAI所做的一切就是为了防止这种恐惧成真。

包括Elon Musk、LinkedIn 创始人Reid Hoffman、PayPal联合创始人Peter Thiel、YC创始合伙人Jessica Livingston在内的许多科技名人，以及亚马逊云服务都对OpenAI进行了投资。他们共同承诺会在接下来很长一段时间内，对OpenAI投资10亿美元以上。

OpenAI联合主席是Musk以及YC孵化器CEO Sam Altman。同时YC也是投资方，Sam Altman本人也是创始人。尽管如此，OpenAI还是一家独立公司。

OpenAI在本质上是一个研究实验室。建立这个实验室的目的在于监督企业和*，以免这两个群体依靠超级人工智能系统过度榨取利润或者谋取权力，并以此压制市民。

这个想法听起来似乎不切实际，但是该团队已经招揽了大批世界级人才，首席技术官是前Stripe首席技术官Greg Brockman，研究总监是世界级研究员 Ilya Sutskever。Ilya Sutskever曾在谷歌任职，是多伦多神经网络大师Geoff Hinton的得意门生。其他员工也都是来自Facebook AI、DeepMind（2014年被谷歌收购的人工智能公司）等大型公司的顶尖人才，年轻有为，简历漂亮。同时，公司还有包括美国计算机科学家Alan Kay在内的一流顾问团。

下面是对两位创始人Elon Musk和Sam Altman的采访内容：

怎样想到要创立OpenAI的呢？

Sam Altman：虽然大约一个半月前，我们才成立了研究实验室YC Research，但我和Elon其实从很早之前就在考虑人工智能的问题了。如果要给未来这个世界最重要的东西做个排行榜，我想好的人工智能可能会位列前茅。所以我们创办了OpenAI，尝试开发一种“仁慈”的人工智能。并且因为它是非盈利的，所以全世界都能免费拥有我们开发出来的技术。

Elon Musk：众所周知，有段时间我一直对人工智能心存担忧。我找Sam、Reid（LinkedIn 创始人Hoffman Reid）、Peter Thiel（PayPal联合创始人）还有其他一些人谈了很多次，当时就在想：“有没有某种方式能够确保，或者是增加人工智能往有利的方向发展的可能性呢？”反复探讨之后我们得出结论，创办一个符合美国税法501c3条款的、非盈利的、没有义务追求利润最大化的公司，应该是个不错的办法。当然，我们也会非常注意安全问题。

然后就有了一个重要的哲学性问题：我们希望人工智能普及开来。有两个意见：你想要多数人拥有人工智能呢？还是希望少数人拥有人工智能？我们认为可能多数人拥有比较好。我们可以把人工智能和人类个体意志的延伸联系在一起。

人类意志？

Musk：因为人工智能是人类自己意志的延伸，所以每个人本质上是与人工智能共生的，不能把人工智能当做独立的*智库。想一想我们是怎样使用网络的？通过手机应用，我们可以收发邮件，玩转社交媒体，网络让我们有了三头六臂，而我们并不会这种能力当成身外之物，而是把它当成自己的一种延伸。我们可以把人工智能往这个方向引导，这就是我们想要做的。我们现在已经召集了一批这一领域内志同道合的工程师和研究员，他们也有同感。

Altman：我们认为人工智能发展的最好方式是提升个人赋权，造福整个人类，把研究成果免费提供给所有人，人工智能技术如果集中于少数人手中，会致使单个实体的权力百万倍于人类个体，这正是我们想要避免的。此外，因为我们是非盈利公司，不需要费心思盈利取悦股东，会把重心放在对人类未来而言最好的东西上。

谷歌会像之前分享机器学习一样，分享人工智能研究进展吗？

Altman：他们当然会分享了。随着时间的推移，我们会接近更多超越人类智能的东西，问题在于谷歌会分享多少。

OpenAI会开发出超越人工智能的东西吗？

Altman：希望如此。但它会是开源的，不仅仅是谷歌，每个人都能拿来用。当然了，如果你拿去用了，做出什么成果了，也不是必须拿出来共享的。但是我们开发出来的任何东西都会公之于众。

如果作为使用者的我是“邪恶博士”那种坏家伙，怎么办？

Musk：这个问题很好，我们也为此讨论了很久。

Altman：关于这点我们有一些不同的想法。电影里，就有许许多多的人在和邪恶博士战斗。我们相信大部分人都是好人，虽然任何群体当中都会有邪恶博士这种坏家伙存在，但还是会有许多许多的人工智能努力去阻止少数的害群之马。如果不开源，一个人工智能的力量10亿倍于任何其他人工智能，那么万一有一天这个人工智能反戈相向，或是一个邪恶博士掌控了这个人工智能，人类将没有反抗的能力，成为待宰羔羊，那才是真正糟糕。

你们会对OpenAI的进展进行监督吗？

Altman：这是当然，但需要时间。现在只有我和Elon两个人做监督工作。不过我们距离开发出真正的人工智能还有很长很长一段路要走，我认为我们有足够的时间来建立起一个监督机制。

Musk：我们打算每周抽一到两个下午待在办公室里，来听取最新进展，给出我们的反馈，明确开发到了哪一步，是否已经接近某种危险的东西。安全问题我们会高度警觉，一旦看到潜在威胁，会立刻公之于众。

什么是不好的人工智能？能举个例子么？

Altman：恩，很多科幻小说都有类似描述，比如说《终结者》。不过这离我们还很遥远，短期内不必杞人忧天。但有件事我认为会是一个挑战，就是大规模的自动化会引发失业潮。不过我不认为这是不好的人工智能。另外一个例子也是大家都常提到的，并且当下已经发生，就是人工智能程序一旦化身黑客，会比人类黑客更加防不胜防。

现在你们已经有眉目了么？

Altman：没有，我们的起点不比别人高，很长一段时间里，都要实验研究。目前还没有人知道怎样打造人工智能。开业第一天我们有8位研究人员到位 此项目在猎云网投融资平台进行融资

到位

上门服务交易平台

，剩下的会在接下来几个月里陆续加入。目前他们会使用YC的办公空间，等研究有了进展，就搬到自己的实验室去。他们会一个一个尝试自己的点子，写各种各样的软件，看看能不能推进人工智能的现有技术水平。

会借助外力么？

Altman：这个必须有。一个完全开源的项目最大的优势就是能和任何人合作，因为大家可以*分享信息。我们很难和谷歌员工沟通合作，因为他们要遵守很多保密规定。

Sam，既然OpenAI一开始是在YC办公室进行的，你的公司可以利用OpenAI的研究成果么？

Altman：如果OpenAI开发出了真正伟大的技术，任何人、任何公司都可以免费使用。没有比那样更好的事儿了。但现在，我们正打算看看YC有哪些数据是可以提供给OpenAI的，Elon 也正打算看看Tesla和Space X公司有哪些可以共享的数据。

哪种数据可以共享呢？可以举个例子么？

Altman：太多了。打个比方，新闻网站Reddit上的所有数据都会是非常有用的。所有特斯拉无人驾驶汽车的视频信息都非常有价值。掌握大量数据至关重要。人类是怎样获得智慧的呢？可以通过读书。你读了一本书，你就聪明了一点。我读了一本书，我也获得了智慧。但旁人读的书，就不能让我俩获得智慧了。而就以特斯拉为例，只要一台特斯拉获得了某种情报，所有特斯拉都会立刻从中受益，变得更加智能。

Musk：总的来说，很多具体计划还没制定，因为公司才刚刚办起来，还处于胚胎阶段。不过，特斯拉有大量的真实数据，因为我们的车队每天都要跑上数百万英里。特斯拉关于现实世界的数据可能比这世上任何其他公司都要多。

图片2

人工智能需要大量计算，基础设施怎么解决？

Altman：我们正在和Amazon Web Services合作，他们支援了大量的基础设施。

据说获得了10亿美元的承诺？

Musk：说句公道话，我们得到的承诺事实上不止10亿美元。我们不想给一个确切的数字，但可以这么说，所有博文当中提到的人，都作出了很大的贡献。

要花多长时间呢？

Altman：无论花费多少时间。我们会尽可能节俭，但是很可能这个项目会持续几十年之久，需要大量人力物力。

你们不需要盈利？

Musk：没错。这是一个不以盈利为目的的投资。将来我们有可能会有收入，就跟斯坦福研究院那样。但只是收入，不是利润。没有股票价格，也没有其他什么东西，股东们不会因此获得收益。我们认为这样挺好的。

Elon，你早些时候曾经投资了人工智能公司DeepMind，然后谷歌收购了这家公司，现在这是第二次尝试么？

Musk：我要说，我并不是通常意义上的投资者，我投资不是为了寻求经济回报。我会拿钱去帮助创立一家公司，也可能单单为了捧朋友的场于是投点钱，或者因为我相信某些东西，或者关心某些东西，于是我放了点钱进去。但是好吧，如果你非要说我对DeepMind投资了，那我这种“投资”是打引号的，我只是想要对人工智能多点了解，想特别留意它而已。

你会需要和Deep Mind 或者Facebook 、微软抢人才么?

Altman：目前为止我们的招聘顺风顺水。我们的公开性和*性吸引了很多研究员，在我们这里，所有工作都能和任何人共享，而在其他实验室，是做不到这一点的。因此我们吸引了这样一个高质量的初始团队，完了这样强大的团队又帮我们吸引了更多人才。况且我们的使命，我们的愿景，我们的结构也都非常具有吸引力。

你们会聘请多少研究人员呢？几百个？

Altman：有可能。

我想回到之前一个话题，通过对人工智能的共享，我们可能不会遭受最糟糕的结果。但如果普及率高了，会不会有风险？潜在的风险会不会增加？

Altman：我不知道花了多少时间跟Elon还有其他一些人讨论这个话题，但直到现在我还不能百分百肯定。世上没有百分百的事情，对不对？科技方面的安保技术并不是特别好使。如果只有一方能够拥有，那么你怎么确定谁来拥有呢？谷歌？美国*？中国*？ISIS？还是其他的谁？世上永远不缺仁慈，但也永远不乏坏人。如果一个人的实力超过其他人10亿倍之多，会发生什么？

Musk：我认为最好的防御方式就是攻击，怕人工智能被滥用的话，就让尽可能多的人用上人工智能。每个人都有了人工智能的力量，力量才不会失衡。

Elon，你现在是两家公司的CEO，又是第三家公司的董事，应该没那么多空闲时间来投身一个新项目了吧？

Musk：是的，这是大实话。但人工智能安全这个问题，已经萦绕在我脑海里很长时间了，老这么心神不宁也不是办法，我只能去做了。