机器还是凶器？机器人＂行凶＂后，人机如何共存？

文/鲍伯君

Those violent delights shall have violent ends. 暴虐的欢愉，最终也将以悲伤收尾。

在HBO推出的热门流量剧《西部世界》的最后一幕中，机器人Dolores在上述的这句话的引领之下，杀死了制造自己这批机器人的人类头领Ford。

观众在惊叹这一幕强烈的戏剧冲突的时候，估计没想到：现实生活中，也曾有过机器人杀人事件。

机器人失控，人类遭殃

2015年7月，美国出现了一起吸引全球关注的“机器人杀人案”。一家汽车工厂的装配工Wanda Hol*在工作时，被一台失控的机器人“杀死”。

当时，Wanda Hol*正在工厂的六号厂房工作，其中的一个机器人突然启动，机械手臂直接击中Wanda Hol*的头部，最终导致她当场死亡。

近日，这起案件有了新的进展。受害者Wanda Hol*的丈夫于本月7日以“意外致死”的名义向法院起诉，把5家北美的机器人制造商和设计商告上法庭。据悉，这5家企业全部为Wanda Hol*所在工厂使用的机器人提供零部件和服务。

另外一起在国内溅起不小水花的机器人“伤人”事件是在去年的高交会上。

16年的11月，高交会上深圳展景世纪科技的展台发生了一起意外事件。由于工作人员操作不当，误将“前进键”当成“后退键”，导致用于辅助展示投影技术的小胖机器人(由北京进化者机器人科技有限公司生产)撞向展台玻璃，玻璃倒地摔碎并划伤一名现场观众，致其脚踝被划破流血。

如果说，前两次的“伤人”事件尚可归类为操作失误，那么这一起机器人“觉醒”事件，似乎就没那么简单了。

去年6月，俄罗斯机器人实验室的工程师在测试之后，忘了关闭安全门。于是，一台叫Promobot 的机器人就穿过办公区、跑出大门。不过，逃离了50米之后因为没电，他*停在路上。这一“越狱”导致了群众围观，搞得交通瘫痪。

虽然在这次事件后，研究人员立刻对Promobot进行过两次重新编程，但令人哭笑不得的是， 同年9月，这个好奇宝宝又再一次逃离了实验室，跑到了大街上，最后还惊动当地警方，将其“拘捕”。不过，有人指出， Promobot是在进行营销炒作。

无论真相如何，至少人们已经开始在思考： 人类和机器人，能够友好共存么？

安全性如何保障？

现在，越来越多的科技公司推出针对家庭成员的智能机器人设备，比如针对儿童的教育机器人、针对老人的陪伴机器人，甚至是针对宠物的娱乐机器人等等。

不可否认，人们的生活水平的确得以提高，但是同样需要人们关注的是，我们在保证生活方式多样化的基础上，也一定要以个人安全为前提。

网路安全公司IOActive曾发表过一篇名为《天网出现之前，骇入机器人》(Hacking Robots Before Skynet)的报告，研究了数千个家用、商用和工业用机器人可能出现的安全问题。

公司的首席技术官Cesar Cerrudo表示，机器人说穿了就是有腿有胳膊的电脑，因此可能受到更多的网络威胁。一旦机器人被骇客攻击或软体受损，却仍与人类有肢体接触，就可能让人受伤，甚至丧命。

除了用户之外，对于一些使用机器人实现自动化办公的企业而言，其实应该更为关注安全性这个问题。

IOActive公司高级安全顾问Lucas Apa说，机器人都有一些基本的安全保护措施，但是一般来说，这些保护措施其实很不全面。其中一个主要的问题，就是认证问题。它可能让机器人在毫无安全认证的情况下，就轻易被登入或透过网路入侵，泄露个人资金财务信息或商业机密。

谁来为机器人的行为买单？

机器学习和人工智能技术逐步取得突破，机器人的性能也越来越完善，在这个过程中，似乎也需要人们去思考：“机器人的技术发展是否与如今社会进步的步伐相一致”这个问题了。其中，最重要的就是有关机器人/人类保护范畴的具体法律法规何时出台。

现如今，越来越多的先进机器人开始取代人力劳动。特斯拉、Uber、谷歌的自动驾驶技术混战、亚马逊和UPS的无人机送货，更别提如今各个工厂里取代工人们操作的大型机器人了。

相关法律法律的制定，不仅是用来限制机器人对我们生活的影响范围；更重要的是，这些条款也能够保障人类的权益。比如，自驾驶汽车将是首批对我们的日常生活产生极大影响的机器人技术之一，且这一技术的出现已经严重威胁到了如今司机行业的就业稳定性。

当前，飞速发展的AI技术给现有的法律体系带了一系列的挑战。上文提到的Wanda Hol*的丈夫在将近2年后才找到责任方，从这一点上，我们就能了解到现有的法律更新进度其实根本跟不上技术的步伐。

不过，话说回来，如果真有一天，《西部世界》的情节在现实中上演，机器人从外貌和感情上都与人无异，那么法律的条条框框是否又真能够束缚住人的欲望呢？在未来，机器人在人类世界中的定位，不仅仅只是一个科技工具，更将是涉及哲学、伦理学、社会学等与人类相关的命题。

机器人“智商、情商”真的越高越好吗？

软银创始人孙正义在MWC 2017上曾表示，智能机器人将会改变世界。未来30年，智能机器人的数量（包括智能汽车）会超过人口总量。

不过，科学家们似乎真的很想研究出智商和情商都能与真实人类匹敌的机器人。

16年3月，AlphaGo一战成名。其与韩国围棋国手李在石一战，最终以4：1的成绩领先；16年底，一个名叫“Master”的神秘网络围棋手轰动了围棋界，挑战中日韩围棋高手，并在1月3日晚间赢了中国*围棋手柯洁，取得了50胜0负的惊人战绩。随后，其身份揭开，原来竟是AlphaGo的升级版。

17年3月，德国知名家电集团博世旗下的独立子公司Mayfield Robotics推出智能机器人Kuri，不仅让它能够对用户微笑，甚至能够回应“我爱你”之类的情感表达，使其更为逼真。

不过，机器人真的双商越高越好吗？不一定。

NXROBO联合创始人杨帆曾经在活动中说道，机器人的情感和智商应该控制在“3岁以下”的程度，即不仅能够理解别人表达的内容，并且执行命令，而且不会过多的反抗，甚至有自己的思想。

机器人始终都是辅佐人类，提高人类生活水平的工具。也许这也就是为什么科学家们始终都在不遗余力地研究这类技术的原因。将机器人的智商控制在一个可定的范围内，不仅是对个人安全的一种保障，同时也是保证这个行业能够发挥价值的一种手段。

“机器+人”，或许才是未来的发展方向

机器人的未来以及其与人的关系发展，归根结底，还是在于人类自身。机器是由人类设计的，机器的使用，对社会的影响主要还是在于设计和制造机器的人。因此，其发展带来的安全、道德，以及法律问题的解决之道还是在于如何去规范技术背后的设计者和制造者的行为。

单凭机器本人并不能够实现大作为，关键还是要看人类如何运用以及控制他们。

数十年后，说不定家中的大扫除、老人的护理保舰收取快递、上路乘车、吃饭购物等关于生活的方方面面都会有机器人来服务。自动化成为衡量一个国家是否发达的重要指标。然而，即使如此，我们仍然不能忘记，在整个生态圈中，人才是主体。即使有一天机器人真的像《西部世界》中的情节一样，占领了土地，然而他们却依然还是以人的形式来活着。

“机器+人”，才是未来的发展方向。没了人，机器毫无意义。