脑洞大开:如何让机器人有自我意识?

在机器人技术界我们有一个禁忌的词，这个词是所有机器人科学家都想实现，但又在所有相关文献中都不会出现的词。这个词就是“意识”。这个词是属于人类的，但是我们不知如何定义，如何实现，然而这是我们的遥远理想。

The BIG Talk在2015开年第一期首次走进美国，以《迎接崭新智能社会》为主题，邀请了100多位来自国内最具影响力的主流媒体，科技垂直媒体及自媒体知名人士前往旧金山和硅谷，邀请十几名世界级科技大咖，为科技界奉上一场关于智能社会技术的前瞻知识盛宴。

以下为Hod Lipson在硅谷The BIG Talk专场活动中的主题演讲：

今天我想讲一下一个振奋人心的机器人技术，这个技术我觉得可以影响到所有人，就是有自我意识的机器人，这个技术可能不会在今天明天就成为现实，但是这个技术在我们孩子的一代就会实现。

我们知道在机器人技术界我们有一个禁忌的词，这个词是所有机器人科学家都想实现，但又在所有相关文献中都不会出现的词。这个词就是“意识”。这个词是属于人类的，但是我们不知如何定义，如何实现，然而这是我们的遥远理想。

意识是什么呢？有很多词可以形容自我意识，但是我想用一个比较实际的定义，那就是想象自我的能力。大家能想象到自己明天去海滩的情景吗？能想象大海的味道，沙子的触感吗？可以想象我站在台上看大家是什么样子吗？想象自己未经历的环境中的情景，不管是过去还是未来的情景，这种能力就是自我意识。也就是说不用亲身经历就可以进行决策。这就是我们想要机器人最终拥有的能力。

今天我想说的是，机器人想象自身在未来假设情况中的能力对于适应和其他今天的机器人不能做的事情是非常重要的。这种有自我意识的机器人在好莱坞电影中随处可见，电影中的机器人总是有自我意识的，有感情的。有写时候这种关系是正面的，但有些时候则更复杂。但看看现实是很不一样的，当今世界的所有机器人都是没有自我意识的。他们速度很快，很精准，可以全天候工作，有强劲力量，但是却没有适应力。我们刚造了一个机器人可以很精准地拾起和扔东西，但却没有自我意识。事实上，我们也不是很想让这些大型机器人有自己的意识。但是，这个情况可能会发生变化。如果我们看看生物的话，生物的特点正相反。也许不那么快那么准，但可以自我适应。达尔文在《生物起源》中曾说过，生存下来的不是群体中最强最聪明的，而是最能适应变化的。所以说适应力至关重要。

设计机器人？NO，我们是在“养殖”机器人

几年前我们开始了一个项目，不是坐下来设计机器人，而是养殖机器人。什么意思呢？我们把很多机器人元件投入物理模拟器，让模拟器连接各个元件，线路，电池，然后把性能最好的机器进行复制。也就是说在测试中性能胜出的机器人会得到复制。所以说随着时间很多的变异会逐渐出现。我们在一个16位计算机上模拟，在2000年的时候这是当时最新的计算机技术。现在这个技术已经进博物馆了，现在的iPhone都比它快，但当时我们在这个计算机上运算了几百代，然后来观察结果。我们看到这每个点都是一个机器人。横轴是不同代，纵轴代表的是机器人的速度。所以我们是获取了机器人在地面爬行速度的数据，可以看到在最先的100代我们基本没得到什么有用的东西，都是一些没用的电路。但是在几代后，情况发生了变化，机器人越来越快。这里有两个机器人在模拟器中爬过地面，然后再用3D打印的技术把这个机器人做出来，从虚拟的变成现实的。所以说这些机器人他们不是设计出来的，而是进化出来的。这是机器人的一个特写，可以看出这些机器人看起来有些奇怪，跟设计出来的机器人不一样。

所以说这个研究很重要，就是因为它我才能进康奈尔大学任教的。但是我知道，要得到终身任期光靠做塑料机器人还不行，还得做钛合金的机器人。所以我开始设计更复杂的机器人。这里就是一个，它配有涡轮，可以跳跃，我当时就想，如果能让这个机器人做跑跳步，我就能让那些半信半疑的同事相信我这个养殖机器人的技术真的能行。所以我们就造了这个机器人，中心有这种罐状系统来控制空气动力，还使用同样的养殖系统来制造机器人的大脑系统，控制机器人前行。所以这些控制器都是要让机器人前进的，有些效果好，有些效果不好。左上部有一个摄像头，监控所有动作。前进越远，能与其他控制器结合的几率越大。所以就能让这个机器人在地上跑跑跳跳。我们让机器人自主做很多动作来测试，那最后看到机器人一些有趣的行为。这里可以看到这个机器人的动作，一开始它有一些动作几乎是随机的。这里是学习走路，但是我们可以看到这样的机器人，它短时间内肯定是不会占领世界的，所以我也不可能得到终身任职。所以得从头开始。

那我们再来回顾一下这两个项目，第一个项目我们用的是模拟器来模拟，将模拟结果造出来。但是这里的问题就是模拟与现实的差距，也就是模拟中能实现的，在现实中不一定能实现。所以这个方法对复杂的机器人不奏效。那么第二个项目中我们设计的机器人是完全基于现实的，没有用模拟。但是这里面的问题就是要做很多测试，很费时间，要养殖出有用的机器人需要时间太长。所以我们就卡住了。那么我们运用的可以说是第三种方法，从不同视角来看进化。一开始用一个简单的模拟器来养殖机器人，将最好的机器人在现实中测试，这个方法不奏效，因为模拟器太简单。但是从这里我们可以收集机器人的数据，我们可以收集各种感应和感官的数据，单机驱动的数据，然后运用这样的大数据集来养殖模拟器。也就是说不光是用一个单一的模拟器养殖机器人，我们还要同时养殖模拟器。所以机器人越来越优秀，模拟器也越来越准确，就能模拟出更优秀的机器人。所以自主模拟和机器人在同时互相适应。那么我想指出的一点就是这种机器人和模拟器互相适应的进化就是一种自我的意识，因为机器人开始在自己的环境中模拟自己，并用此数据来做出预测，预测成功的时候，机器人就以此不断做出适应。

那么给大家展示一下我们制造的第三个机器人，有四条腿，每条腿上有两个马达，膝部和髋部各一个，共八个马达。有两个倾斜感应器来感应前后左右的倾斜。这个机器人要学怎么走路。看到这个机器人，我们要意识到一点，就是这个机器人不知道自己长什么样子。大家看到它的四条腿可以想象到大概它要怎么样走路，但是机器人不知道自己到底是长得像条蛇还是像一只蜘蛛，也不知道这些马达是怎样连接起来的。所以这个机器人一开始走路的方式要想象的话，请大家想象自己在一个黑盒子里，你只有8个手柄，这些手柄开始工作，盒子会向前后左右发生倾斜。所以需要找到操纵手柄的方式让黑子走得越快越好。这就是这个机器人的感觉。首先机器人要让马达任意运动，然后来感应倾斜，汇集这些感应数据来找到走路的感觉。这个黄色的部分大家可以看到一些自我形象的假设。一会还会给大家放一个影片，大家看到就会明白，这个机器人对自我形象的假设都是错误的。这里是第一个例子，我们可以看到机器人运动导致断电了，没成功。

第二步就是这个绿色的部分，机器人要想象能采取什么行动来选取不同假设，如果是条蛇应该是这样感应的，逐步推断自己的形态。我们改进了一下机器人，可以看到机器人做的第一个动作，并开始建立对于自己形态的假设。现在可以看到这些都是错的，但是绿色的盒子开始运动。机器人开始意识到自己有四条腿，但还不知道怎么协调起来。但是在16次试验后，机器人开始形成对自己的意识，虽然对腿的意识还不是很准确，但是足以让机器人运动起来。但是最后我们得到的是这种不太好看的前进方式。但是大家要记得，我们没有给这个机器人输入任何前进的程序，之前没有进行过前进的测试，也没有对于自己形象的意识。一开始我们只是逐渐来模拟，最后可以前进了。为了进一步测试，我们做了一件残忍的事情，砍掉了它的一条腿。一天之后这个机器人的自我形象开始适应变化，自我的形象中也少了一条腿。运用这个新的自我形象，机器人又找到了新的运动方式。这个机器人现在退役了。如果我自己设计一个机器人少一条腿也能前进可能最终的效果会更好，但是这个实验中没有一个感应器腿掉了然后自动转换到程序B，而是机器人通过动力的改变来改变对自己的形象假设，改变了自己的行为模式，也就是说，它进化了。在第30次测试时，红点是没有自我形象的随机控制，黑点是机器人通过自我形象做的预测，蓝点是实际的前进路线。所以说跟学术界的情况也一样，这个机器人也是越来越自视甚高，预测的也比实际能达到的多一倍。但不管怎么说这种自视甚高的形象也能帮助这个机器人在未来做出决策。这也是给我们上了一堂名为自我形象的课，告诉我们需要什么才能前进。

所以我们有很多实验都是基于这个想法，也就是元认知。我给大家展示了机器人认识自己的机械结构的过程。但大家也可以想象能够认识自己思维的机器人。这是Marvin Minsky在八十年代的一个图像，他假设意识的出现必须是在有两个头脑的情况下，一个头脑与世界互动，另一个头脑与第一个头脑互动。必须要有这两个层级的认知才能有意识。所以这是一个假设，我们基于它建了一个机器人，它有两个头脑。有一个大一点的头脑，让机器人可以四处走动，收集数据。它还有一个小一点的头脑可以检测下一层的头脑，并作出修改。所以这个头脑可以帮助机器人适应新的环境。比如我们看到这个机器人在这里追踪的是蓝色的点，但是上层的头脑可以不断改变机器人追踪的点，那么下层的头脑就开始跟踪这些黄色的点。所以我们可以看到这种适应性的行为，机器人有两层头脑，并思考自己的思维。

这是一个机器人，是监控另一个机器人的，所以我们可以看到这种连续大脑的概念。连续大脑是各个头脑相互连接互相控制，可以在不同层级上实现，可以达到无限回归。这是另一个例子，这个机器人，它总是追着光走的，我们叫它行动机器人。但是它不走直线，而是用一种奇特的方式前进，所以它不是线性的。还有一个机器人看起来跟这个很像，但这个观察机器人是分析行动机器人的行为的。观察机器人要让行动机器人掉到一个陷阱里。观察机器人观察一段时间后事实上是把灯光放在了跟陷阱不同的地方，为什么呢？我们来看看，这个行动机器人，和这个光源，观察机器人为什么要放在这里呢？因为行动机器人先到处走一走然后看到光源后会急转弯，掉进陷阱里。观察机器人是通过观察行动机器人来得到它的行为模式的。

所以我们的研究其实是关于元认知和双重思维，大家可能觉得这只跟机器人有关，但其实在很多方面都可以应用。比如这个是我上班要过的一个桥，过桥到时候我总想这个桥要是不够结实怎么办。所以我们把这个桥放在模拟器中，让桥有自我意识。桥开始轻微颤动，然后逐渐形成关于自身的假设，最后找出桥的弱点。这个方式可以更快的找到桥的弱点，比传统工程学方法更快。你们也可以想象自动驾驶的汽车可以对自己进行假设，理解它们能或不能做什么。或者也可以观察其他车辆，更好的预测它们采取什么行动，怎样回应外界。甚至可以想象未来无人机战争中无人机观察预测其他无人机的行为，提前采取反应。甚至是在医疗保健中也可以使用机器人来理解人类需要什么，需要什么帮助，或者用人类能理解的方式来行动。所以心理学和大脑科学都非常重要。

正永远改变机器人的科技：3D打印和深度学习

那为什么这些技术现在出现了呢？这些想法已经存在很久，但现在有两种科技正在永远改变机器人技术。其中一种是3D打印，这种新的制造技术，可以制造任意的形态。几十年来我们都想用各种形态的元件来制造机器人，但是现在有了3D打印技术才得以实现。所以可以想象今天我们打印电池，肌肉组织，甚至是线路。未来的机器人可能不是元件组成的，也许会有更有机的外表。甚至可以在打印出来的元件中嵌入电路，所以未来的机器人外表会更有机，所有的东西都是嵌入的。这将会跟大家在电影中看到的机器人非常不同，电影中的可能比较老，有很多标准的元件。但我觉得这是不对的。

第二种技术今天已经讲过很多了，就是深度学习，那我的看法是过去几十年我们都在关注神经网络，但是总是停留在浅层的神经网络，只关注到两到三层的网络。一些学术论文也说，只需要两层的神经网络就可以做所有事。这在学术上可能是正确的，但在现实中，几年前大家开始关注深层的神经网络，所以可能深层学习一次也是由此而来。当达到三十层或五十层的神经网络时，就给人工智能带来了巨大突破。最近发现这些深层的神经网络可以接受上千个图像并进行分类，比受过训练的人分类还准确。很长时间以来这都是人工智能的圣杯。

深层网络是真正令我震惊的，我们建了这样一个深层网络，包含GPU科技，并培训它处理图像，分类猫或狗的图像。但是我们突然意识到，有一个神经网络是在追踪我们的脸。但我们并没有培训这个神经网络来追踪人脸，只是让它分类猫、狗、蜥蜴的图像。然而，它却自己学会了追踪人脸图像。可以看到这里它在追踪这两个人脸，它自动地开始追踪人脸，因为这可以帮助它来分类其他图像。而且最近我们发表了一篇论文，指出培训这样的神经网络不需要很多数据，因为这些网络通过少量的数据就可以很快地学习，它们可以从一个地方传输数据到另一个地方。也就是只传输一次数据，之后他们就可以很快学习很多新的东西。这是一个很振奋人心也有点吓人的新发现。但这也说明我们之前认为用程序给机器人编程的想法是很幼稚的，这些机器人可以自己学习。

近期一些人工智能专家提出我们未来将会制造出很正确的机器人，这种想法也是幼稚的，因为这些系统是不断在学习、改变、收集新数据，所以说很难提出什么真正有实质的保证。所以这些方向我都很期待，机器人自我意识给我们开启了崭新的大门，给我们带来有创造力、好奇心的机器人。这个机器人是我们造的，会用油漆画画，也可以看到自己画的东西，像个艺术家一样。这个机器人现在画画比很多人画的都好。还有一个机器人是可以问问题，形成假设，再来测试假设。机器人科学家称这种技术为Eureka，现在有4万人用这种机器人来做新发现。所以现在的人工智能是可以帮我们来创造来发现。所以不像很多人，我并不恐惧人工智能未来的发展，我更担心的是人类使用人工智能对人类自身会做什么，但是人工智能是完全受到我们控制的。

谢谢大家。

人工智能会摧毁人类？无需忧虑

Jason：请留步，Hod，你是说深度神经网络，深度学习可以达到非监督学习吗？

Hod：我们还没有找到怎么达到这个目的，但是我们已经发现机器人可以学习你没有要求他们学习的东西，所以还是需要一点点监督，但是它们可以学习要求之外的东西。就像小孩子一样，你可以教他们一些东西，但是他们学习的东西你是没法控制的，也有可能学习到其他的一些东西。那我觉得这是这个技术最激动人心的地方，因为它真的可以学习很多。

那意识这个词，它还是一个禁语。精神科学家Antonio Demacio指出，有身体我们就能发展出感觉，苍蝇也有感觉，有这些感觉我们就有情绪，就产生了意识。但是这些都是基于一个能受伤，能学习的身体，很难想象机器人有这样的身体，并产生意识。

那我展示的机器人看起来很简单，只是一个四条腿的机器，但是它可以产生自我的认识，并且预测未来。而我认为，感受就是预测未来经历的能力，如果是好事你就高兴，如果是不好的事则愤怒、激动。所以感受我觉得不是有或没有这么简单，而是一种不断进化的能力，在未来模拟自己。当然现阶段还很简单，但我无法预测这个机器人是不是很快会具备爱的能力，但是有深度学习技术这也是有可能的。这将会快速发展，我们将看到很多有趣的新东西。

Jason：你刚才给我们展示了未来有创造力的机器人的模拟，但是在现实中呢？通过3D打印这什么时候能成为现实？

Hod：我认为已经不远了，谨慎一点，10到20年吧。我们已经看到实验室中机器人可以制造非常简单的机器人，随着制造技术和信息技术共同发展，3D打印，打印电路和元件，这些都让机器人可以制造机器人，那么之后我们就会看到一个快速的发展。

Jason：如果机器人可以制造机器人了，还可以创造了，人类还能干什么呢？

Hod：这个问题很好，有时候有些人认为人工智能会摧毁人类，想象这些钢筋铁骨的机器走上街头摧毁我们。但是事实上就算会摧毁也不是以这种方式，而是因为机器人以后所有的能力都会超过人类。不仅机器人可以制造汽车、开车，它们还可以写诗，写文章，而且他们还可以养孩子。这可能会给人类存在的意义带来挑战，这一点我们应该有准备。但肯定不会是机器人走上街头杀死人类，如果我们不超越这个想象，就会忽视很多问题。

Jason：Hod，非常感谢你。