如果人工智能“圈养”了人类会怎么样？

我们对未来世界的想象有两个方向：一个是《星际迷航》，人类同众多外星种族一道战胜疾并种族差异、贫穷、偏执与战争，建立起一个和谐的星际联邦；一个是《终结者》，人类研制的计算机系统“天网”失控，机器人有了自己的意志，杀死了几十亿人。

近日，美国斯坦福大学人工智能与伦理学教授杰瑞·卡普兰带着“《经济学人》2015年度图书”《人工智能时代》中译本，在清华大学举办了一场演讲。“看了那么多电影之后，我深知大团圆结局并不多见。最近人工智能领域有了震惊世界的新进展，人类是会优雅地完成这次转型，还是会在这个过程中遍体鳞伤，我并不确定。”卡普兰说。

卡普兰出生于1952年，在他十几岁时，美国启动了“登月计划”，这也带动了科幻小说的热潮，其中不乏艾萨克·阿西莫夫、罗伯特·海因莱因、亚瑟·克拉克这些在科幻小说迷中神一样的存在。卡普兰对克拉克的《2001：太空漫游》情有独钟，他把这本小说翻来覆去读了6遍，为其中的计算机HAL震撼，从此迷上了人工智能的世界。从宾夕法尼亚大学计算机科学专业毕业后，卡普兰进入斯坦福大学人工智能实验室工作。

仅仅翻看《人工智能时代》的目录，就能感受到一股寒意：“从仆人到反叛者”“机器人，疯狂扩散的新病毒”“无论你的领子是什么颜色，机器都会毫不留情”……卡普兰说：“我希望这本书能帮读者理解即将袭来的人工智能时代所带来的挑战和机遇。如果公众对这一重要科技的认知只是由科幻电影和小说所塑造的话，那么我们就无从应对它即将对我们的生活和工作带来的极为真实的影响。”

先放下“人工智能控制人类”这样还停留在小说电影里的压力，有一种压力已经迫在眉睫——机器人能代替人类工作。卡普兰认为，除了点钞、砌砖等机械性劳动，甚至医生、律师都可能被机器人取代。因为一般的商业合同具有很高的结构化特点，计算机程序可以轻松起草初稿文件，当然，也并不排除它能够直接完成最终合同的可能。

卡普兰说，想象一下，如果有一家律师事务所把自己命名为“机器人、机器人和黄（Robot, Robot, and Hwang）（在美国，律师事务所通常由几位合伙人的名字命名——记者注）”会怎样？

这并不是个冷笑话，拥有哈佛大学本科学位和加州大学伯克利分校法学博士学位的蒂姆·黄（Tim Hwang）就开办了这样一家公司。公司网站上写着：本公司力图在科技、创业以及计算科学的世界中引领思考，从而改变有些古板而保守的法律实践世界。

卡普兰在书中写道：“一场由电力驱动的现代寒武纪生命大爆发，只不过这次演化的终点将停留在尚未成型的机械动物门。”

灵活的机器人系统，有独立行动能力，分布广泛，能够跨越物理和电子领域，并且在超乎寻常的距离内以超越人类的速度交流。用叶芝的话说：“它的时刻终又来临，什么样的巨兽缓缓地，走向伯利恒（巴勒斯坦中部城市，相传为耶稣的诞生地——记者注）去投胎。”

既然人工智能如此万能，那它们还留着人类做什么？“它们可能需要我们的头脑。”卡普兰说，“因为我们是有意识的，有主观经验和情感——现在还没有任何证据证明它们也有类似的东西。”

卡普兰安慰人类，有些工作可能是机器无法胜任的。他指了三个方向：一是涉及人和人面对面沟通和交流的工作，人们不希望对着机器说话；二是表演艺术，人们不希望听一个机器人拉小提琴；三是蕴含着工匠精神的产品，尽管可以机器生产，人们还是更喜欢手工定制。

然而，只有当人工智能需要人类的时候才会与人类合作，一旦它们可以设计、修理以及复制自身，人类就可能孤立无援。它们会“奴隶”我们吗？“不，它们更可能圈养我们。”卡普兰说，“或者把我们放进保护区，让我们生活得惬意且方便，并失去探索边界以外世界的动力”。

一头银发、似乎是从未来世界穿越回来的卡普兰这样描述：“地球可能会变成一座没有围墙的动物园，一个实实在在的陆地动物饲养所，那里只有阳光和孤独，我们的机械看管者为了维护正常的运转偶尔会推动我们一下，而我们会为了自身的幸福高举双手欢迎这样的帮助。”

看到这里，读者也不必过于惊慌，即便未来是《终结者》，T800也会被改变程序保卫人类。“所以，全在于设计和使用人工智能的人会不会做坏事，人工智能自己不会。”卡普兰说。

他描述了一个“人机共生”的新生态：在这个生态中，机器人犯罪了，我们知道该如何去惩罚，也知道该如何让自己不受牵连；在这个生态中，我们的企业、教育与个人，知道该如何建立一个有益的绿色闭环，以帮助将近半数的失业人员再就业；在这个生态中，我们知道社会里企业的形态、竞争机制甚至社会保险制度，会面临什么样的选择，该怎么做才能让社会经济良性运行。

卡普兰说：“最终，在这个生态中，机器人做机器人该做的，而人的价值自有它的去向。”