不吹不黑，机器人什么时候会反抗人

据国外媒体报道，随着人工智能技术蓬勃兴起，未来它将如何改变人们的生活呢？*的科学家和开发者们是如何看待AI的未来的呢？

在一个大晴天，在加州大学伯克利分校的校园里，学生们在赶着上下一堂课，双肩背包和智能手机随处可见。机器人学习实验室可谓极客们的天堂。学生们在台式机上编写软件，其他的学生则在用电线和多彩的机箱装配旧机器。入读这所精英大学并不容易；加州大学伯克利分校2020届学生入学申请通过率只有14.8%。因此，它的年轻小伙们有望成为未来的科技领导者和先驱者。

该高校看起来充满着希望，但其实验室中的BRETT机器人似乎陷入了挣扎。实际上，它颇为失败。它在试图给一个小洞放入一个小的木块。BRETT一次又一次地挥起手臂，往小洞口放置木块，却一次次都无功而返。它就是对不准。

然而，BRETT有一大优点：有学习总结的能力。每一次失败过后，它都会计量哪里出了问题。从本质上说，它是在做我们人类所做的事情：失败过后，它都会去琢磨下一次该如何做得更好。

我站在那里看了大概15分钟，最后BRETT终于成功了鉴于该任何并不难，它花费的时间可不短。但它令人惊讶的地方在于，它的确有学习能力。它并不只是千篇一律地重复执行单一任务的机器。它在不断进化，它在不断改进自己。

如果你是悲观主义者，那在这晴朗的日子里看到BRETT慢慢取得成功，你恐怕会觉得并非机器人的人类未来蒙上了阴影：BRETT，或者下一代的机器人，最终会拥有比创造出它们来的人类厉害得多的学习能力吗？

有朝一日，BRETT会不再需要我们吗？

人工智能与《科学怪人》

这是人工智能最典型的问题：计算机能获得人脑般的概念化能力吗？

除了驱动系统之外，计算机还能够自主构想系统吗？最重要的是，计算机能够用批判性思维看待自己吗？能够进行自我评估吗？能够设计出富有创意的新解决方案吗？

目前来看，答案是否定的。AI还处于初生阶段，尽管在围棋比赛中击败大师级选手李世石的谷歌DeepMind，以及在电视智力竞赛中赢得100万美元大奖的沃森引起了广泛的关注。相比人类的大脑，计算机虽然非常强大，但还只是受限的重负荷机器。

诚然，计算机在纯处理性能上拥有巨大的优势。IBM的沃森短短一秒钟就能够消化500GB以上的数据（相当于超过100万本书）。谷歌的DeepMind被灌进3000万个例子，通过这种训练就获得了*的围棋水平。这种惊人的计算性能未来也将变得越来越强悍。

不过，沃森在Jeopardy中的胜利本质上只是依靠数据检索。DeepMind战胜李世石则依靠更多认知上的灵活性，但它也算不上创造力。它纯粹是依靠计算性能来实现高级的逻辑推理。

老实说，我们人类不仅仅拥有智能，我们还拥有元智能（meta-intelligence）。我们在思维上取得了不少全新的、前所未见的进步；我们打破了种种框框架架，创造出令人惊奇的东西。开发人工智能本身十分困难，原因之一是我们并不完全清楚人脑的运作方式。我们都搞不懂我们自己，所以我们如何能够复制我们自己呢？

不过，我们每年都能够看到AI复制我们自己的各种能力。人类是古怪的生物，但我们所做的任务大多数都可以进行简化。像iRobot Roomba 650这样的辅助型机器人可帮助我们清理房屋。无人驾驶汽车的开发工作在不断推进，入局的公司多不胜数，从宝马到韩国现代。无人机将会帮助配送我们在网上订购的商品。AI计算机如今能够识别图像（在有限的场景中），能够响应自然语言。

AI的基础性工具均执行某种类似于人类思维的功能。机器学习利用算法来“学习”响应变化的输入信息；它往往会输出预测结果，又或者输出某种较高水平的总结。

神经网络是一种类似于包括大脑的人类中枢神经系统网络的软件。神经网络使用自适应的软件架构；它使用规则设计工具组，从而支持多变量输入和输出。神经网络能够“学习”，能够从各种不同的非线性输入产生输出人类的大脑正是这么做的。

深度学习将神经网络整合成为先进的响应结构，这种结构能够产生抽象的数据模型。深度学习由当下超快速的GPU计算机处理器驱动，是AI的最前沿领域。深度学习的一个著名案例是，AI先驱者Andy Ng给神经网络输入了来自YouTube视频的1000万张照片，使得计算机能够识别猫的图像。

这些工具技术带来的种种AI进展意味着，科幻小说普遍反映的那种恐惧如今似乎是可信的：配备AI技术的机器人有朝一日会超越人类。机器人的大脑会充斥着美国国会图书馆的所有知识、*以及数十亿个例子样式。深度学习神经网络会让机器人的大脑能够“思考”。这种大脑（可以这么称呼它的话）会综合学习过往的经验，产生新颖而独特的输出。

这种拥有自主学习能力的机器人之后可能会引发奇点（受已知物理规律不再适用的物理概念启发）的出现AI超越人类智能的转折点。到那个时候，超级智能的机器可自主决定自己的未来，能够以我们不再能够预测或者控制的方式大步迈进。在这种情况下，机器人可能真的会“反抗人类”。又或者，更准确来说，它们会变成完全独立的个体。如果一切演变成敌托邦，那我们人类将会沦为我们的机器人统治者的服务台工作人员。

这种恐惧其实存在已久。我们人类对于被我们自己创造出来的某种科学产物统治有着深刻的理解。在玛丽雪莱（Mary Shelley）1818年出版的《科学怪人》一书中，那位年轻的科学家找到方法给他庞大的实验室试验品带来人类般的意识能力，后来他一手缔造的那个庞然怪物逃出实验室，还毁掉了其创造者的生活。

这种人形机器人反抗人类的主题在大量的科幻类小说、电影和电视剧中反反复复出现。乔治杰特森（George Jetson）的机器人同事Uniblab原来是奸诈的对手，诱使他说老板的坏话。在《2001太空漫游》（2001: A Space Odyssey）中，HAL 9000拒绝让太空人返回宇宙飞船，留下了那句著名的台词：“戴夫，对不起，我想我不能这么做。”在《机械姬》（Ex Machina）电影中，机器人Ava追寻*。在电视剧《西部世界》（Westworld）中，受尽人类虐待的机器人对其创造者上演了一出“以其人之道还治其人之身”。

人工智能真会超越它的人类缔造者吗？知名未来主义者雷库兹韦尔（Ray Kurzweil）预测奇点会在2045年到来，又或者是大约100代之后到来。库兹韦尔的电影《奇点迫近》（Singularity is Near）探索了种种可能性。很多*的技术专家则认为奇点只是被过度吹嘘的科幻幻想又或者说它还遥不可及，几乎不值得讨论。在他们看来，人类的大脑如此多面，没有计算机系统会超越它。但从科学与技术的历史长河来看，科技的指数级跃进可以说是常态。1927年，林德伯格乘坐飞机穿越大西洋，引起全球轰动；他飞行了33个小时。1969年，人类登陆月球；阿波罗11号登上月球只用了不到76个小时。

即便奇点还遥不可及，又或者不可能来临，人工智能的快速进步也将会带来无数的可能性。将AI应用于基因工程，打造超级人类怎么样？像《科学怪人》那样整合AI和人类大脑怎么样？通过USB接口连通我们的大脑呢？AI融合虚拟现实，形成全新的现实呢？

所以说，虽然我们不清楚人工智能具体会如何影响人类的生活面貌，但可以肯定的是，AI将会深刻地、不可预见地影响我们。

总之呢，最好对你的机器人好点。

人工智能与你的日常生活

尽管AI常常被认为是未来主义技术，但事实上它已经渗透到我们日常生活的方方面面，甚至已经成为了司空见惯的存在。每次你用谷歌搜索东西，每次使用谷歌地图，每次在亚马逊上购物，每次跟你的智能手机中的语音识别软件说话，你都是在使用人工智能。每次登陆Facebook，欣赏亲友分享的那些可爱的婴儿照片，AI都在塑造你的体验。

所有的这些应用都使用算法，算法本质上是形成分析过程的规则组，可带来响应变量输入的能力。今时今日的算法，尤其是那些来自亚马逊、Facebook等巨头的算法，响应快速，且在持续不断地学习。

当你在亚马逊上购物时，背后的算法在围绕给你展示什么进行极其先进的运算。它会实时响应你的点击历史。你或许觉得有人工个人购物助手才是最好不过的选择，毕竟她知道潮流趋势，且了解你的个人喜好。但AI技术提供商Ayasdi首席营销官丹尼尔德鲁克（Daniel Druker）指出，她无法跟亚马逊相提并论。“亚马逊在利用AI根据你留下的所有活动痕迹，实时判断100万种商品当中，哪些最能吸引你的眼球。人类从来没有做到过这一点。”

在Facebook上，出现在你的动态消息中的朋友并不多，那是因为Facebook的AI算法知道给你呈现太多的信息的话，你会承受不了。因此，该社交网络利用AI敏感地响应有关你的私人关系圈的信号，精心塑造你的动态消息，以给你带来更加有效的情感连接。你或许觉得AI冷冰冰，是系统化的东西，但实际上Facebook利用它来窥探你的内心（以及其平台上其它的12.3亿日用户的内心）。它威力强大：说Facebook AI影响了美国总统选举结果也毫不过分。

尽管AI目前拥有巨大的影响力，但它仍被很多人看作是属于遥远未来的奇幻技术。AI技术提供商Sentient Technologies创始人兼首席科学家巴巴克霍德贾特（Babak Hodjat）指出，“不管算法或者应用有多么的吸引人，有多么的强大，每当我跑去介绍这些系统时，人们往往会说，‘是的，那很智能，很酷，但它们并不是AI。’”

他表示，人们之所以会有这种质疑，是因为“公众，而非从业者，往往误以为AI是包含情感智能、创造力、自主性等一系列能力的人类级基本智能。”霍德贾特说，“因此，AI总是被认为是我们未来将会发明的下一项重磅技术。我想，未来10到15年还会是这种情况。”

他还说道，事实上，在当前的很多应用里，“AI比人类要强大。你说一个方面，我可以告诉你这个方面是如何应用实施的，如何比人类更强大的。”他指出，至少，“AI要更加快速，AI当下的决策和行动周期要比人类响应世界的速度快速得多。”

人工智能背后的研究

过去几年，AI技术取得了快速的发展。百度硅谷AI实验室主管亚当科茨（Adam Coates）指出了很多的例子，其中包括IBM的沃森。该AI超级计算机能够回答用自然语言询问的复杂问题。“这在10年前是难以实现的。”科茨说。但他也指出，“我也觉得，对于AI是什么，AI未来能做些什么，人们显然过度吹嘘了。”

“当然，未来几年，很多我们认为是主要的AI问题的事情，人类非常擅长但计算机向来不擅长的事情，将会取得巨大的进展。”科茨说，“例如，识别图像中的物体，或者理解语音和响应口语，都是深度学习和AI技术未来几年将会持续改进的问题。”

是什么功能带来这些进展的呢？AI必须要获得什么功能来向前发展呢？

加州大学伯克利分校计算机科学系教授、AI教育创业公司Gradescope联合创始人皮耶特阿布比尔（Pieter Abbeel）认为，AI系统机器人或者计算机“首先需要能够在无需人工干预的情况下自主学习。”

此外，“它还应当能够在被告知诸如‘或许你从这个角度堆叠方块，效果会好些’的事情时，明白指示，懂得如何响应。如果它不能吸收像这样的信息，那我们不会认为它是真正的智能。”

人类（至少理论上）能够利用过往的经验来举一反三和处理新环境。机器人则远非如此。打造一个在变量有限的环境中提供辅助的机器人要来得容易得多；工厂机器人千篇一律地重复执行同一项任务。

AI科学家们希望打造出能够处理有变化的相关情境的机器人。“它们将需要利用过去的经验，举一反三，将归纳推断出的东西应用到有所不同但有些相似的新情境，理解不同情境之间的关联性。”阿布比尔表示，“我对于机器人如何能够真正从头开始学起非常感兴趣。”从头开始学起是人类的一种能力；如果机器人能够真正做到这一点，那它会成为独立的个体。

不过，AI机器人的“学习能力”能够通过很多不同的方式来定义，部分方式是常见的“尝试与奖励”模式，类似于教小狗新花招的方法。例如，AI强化学习技术使得机器人的软件能够从试错过程中学习。加州大学伯克利分校的BRETT机器人根据行动后奖励是多还是少来使用强化学习技术。“奖励的变化，让该机器人能够分辨什么是好的结果，什么是不好的结果，进而重点采用带来较多奖励的策略。”

类似地，AI科学家们使用监督式学习，即给计算机提供很多带标签的输入信息（这些是猫，这些是狗）的例子，并给它定下明确的输出目标（这是猫还是狗？）。非监督式学习给计算机提供无标签的数据（如很多动物的照片），计算机会对数据进行分类，又或者给数据（如这些动物比其它的一些动物要多毛）定义结构模型。科茨指出，非监督式学习是“非常重要的研究热点，因为我们知道人类很大程度上是使用非监督式学习。”

AI“学习能力”的核心是神经网络，正如前文所说的，神经网络类似于人类的大脑。跟人脑一样，神经网络面对更多的输入会自行进行调整。“你展示足够多的例子，神经网络就会自行进行调整，就像是‘我想对于那个输入，我需要那个输出，所以实现这一点的唯一途径是，我需要调整部分连接的强度，从而得出正确的结果。’”阿布比尔说，“所以说，在某种意义上，当你在训练神经网络的时候，你是让计算机学习它的计算机程序，而不是将计算机程序编进它里面。”

不过，科茨解释道，打造神经网络并非易事。“一大挑战在于，在如何仅凭一些无标签的非结构化数据来训练神经网络上，我们并没有很好的想法。我们不知道该如何量化这些任务中神经网络的好坏。”他说，“发现这一点，就将会是一大进步。但我们还没有到达那一步。所以说它与人类智能还相差甚远。”

尽管AI还不是人类智能，但像谷歌DeepMind这样的AI领先者证明，AI学习拥有非常快速的响应能力。例如，计算机要玩好井字游戏，并不需要什么特殊的智能；该游戏本身非常简单，计算机依靠自身的计算能力即可取胜。阿布比尔说，相比之下，玩雅达利的经典游戏《Breakout》时，DeepMind“得学习概念。”他说，DeepMind知道自己需要学习视觉系统，知道自己需要学习基于操纵杆动作的运动控制。在响应各种变量的速度上，它的神经网络毫不逊色于人类。

随着神经网络技术的不断改进，AI学习变得越来越活灵活现。作为AI未来主义者，阿布比尔在想象，有朝一日通过教导使得机器人在各种细节上都很像是人类专家，并且能够像后者那样拥有个人见解。例如，像职业篮球员那样，在教初学者时会说，“投篮的时候双眼要盯着篮筐……打板会是很好的选择。”也就是说，AI会像人类那样有无数种不同的响应方式。他指出，“这现阶段还远未能够实现，但它是你希望未来会出现的那种东西。”

AI会引发奇点吗？

近年来AI表现的显著提升，带来了无数“人类级别”表现的例子。但那些例子大多数都只是单一的独立任务。

即便是阿兰图灵（Alan Turing）在1950年提出的图灵测试，也仍旧让人费解。如果计算机能够让人以为它是人类，如果它能够模拟真正的人类智能，那它就算通过图灵测试。在测试中，人类考官与计算机进行对话，仅通过文本对话。如果计算机能够让一定数量的听众觉得自己是在跟人进行对话，那它就算赢得“模拟游戏”。

2014年，能说会道的聊天机器人Eugene Goostman成功让雷丁大学三分之一的考官以为它是来自乌克兰的13岁小男孩。不过，AI专业人员大多认为，该举毫无意义，只不过是一场与真正的AI成就背道而驰的作秀。这些年来，图灵测试本身已经失去了一些公信力；能够通过文本愚弄人，不一定就能说明计算机拥有真正的智能。

AI仍面临着一大主要的挑战：虽然计算机非常善于执行限制环境中的特定任务，但它们仍无法实现人脑那样的宏观意识。

佐治亚理工学院研究所研究科学家若尔特基拉（Zsolt Kira）表示，“AI从根本上还缺少那种更广泛的认知架构，在这种架构中，AI系统可以做很多人类还很擅长但计算机不擅长的事情。”

他说，AI的一大限制因素是记忆。基拉说，在决定专注于什么来记忆和遗忘什么时，人脑会进行大量的决策，这些属于元层次的事情，并不是我们所做的有意识的决策，但我们的大脑确实会做那些事情，这是AI系统所无法复制的东西。克服这种困难需要解决长期记忆和短期记忆问题。“目前，这些概念还没有得到解决。”基拉指出。

总之，人工智能没有人脑擅长的那种神奇的综合能力。霍德贾特指出，人类智能“是一种经过数千年进化而形成的特殊配置。你也许可以造出能说会道，理解且能感知你的感觉，还风趣幽默的机器人。但即便是这样，你还是会感到失望。”

科茨给予了AI的很多前沿进展很高的评价，但对于真正有意识的AI的出现奇点，他说，“我想那离我们还很遥远。目前，我们还没有如何打造那种技术方面的现实计划。当前有很多的研究热点都是指向那一方向的难题，但我还是觉得它还很遥远。”

对于阿布比尔来说，奇点是一个很有趣的问题，值得深思。他指出，人脑实质上是存储能力和计算能力的综合体，支持感官输入和输出。如果科学家们要组装一个拥有同等的计算、存储和感官输入/输出能力的数字系统，那就是“形成可与存在于我们大脑内部的某种智能相媲美的程序的问题。当那种程序出现时，AI就可以跟人类智能相提并论。”

他提出这么一个未来主义构想：就像在《黑客帝国》中那样，人类可以将技能直接下载到他们的大脑当中。他指出，如果人类能够做到这一点，那AI系统肯定也能够从其它的AI系统那里*下载技能和数据库。

这种有关相连的超级系统的设想或许预示着未来会出现这样的AI突破：虽然单一的AI系统存在局限性，但如果数个AI系统能够连接在一块呢？比如说，像IBM沃森这样的系统连接像谷歌DeepMind这样的系统？理论上，AI超级结构中的每一个单元都会贡献它的学习工具它的神经网络阵列形成超越人类认知能力的融合体。

阿布比尔指出，“我想，未来可能会发生一些非常有趣的事情，它们会让人难以理解。”

AI带来很有帮助的机器人威胁到人类

人工智能几乎能够在任何的领域带来益处，从医疗到教育，再到金融。人的生命可能需要AI来在成就和健康寿命上实现全部的潜能。人工智能的好处多不胜数：无人驾驶汽车永远都不会像人类司机那样在驾驶时分心，机器人可让老年人过上更加健康、更加独立的生活，AI辅助的数据分析工具将帮助人类更加快速地做出更加明智的决策。

说到短期的进展，科茨说，“AI正学习理解人类，以及如何以我们的方式与我们进行互动。”深度学习算法将使得人类能够随便使用自然语言来跟计算机和机器人展开互动。我们将会用简单的语音指令来掌控我们的世界。

事实上，科茨担心部分地区的AI技术发展还不够快速。

“当前的其中一个问题是，整体来看全球AI发展还很缓慢。有的国家有大量退休人口，劳动力在不断萎缩。”他表示，“未来要取得经济增长，变得更加富裕，我们需要大幅提升生产力。如果AI早点到来，那些地区就会受益。”

但与此同时，AI的潜在威胁也会造成破坏性影响。2016年，美国制造业产量创下历史记录，但美国工厂雇用的员工数量却减少了三分之一。如果听到有人说“我们不再需要制造东西了，”你可以告诉他们我们制造的东西比以往如何时候都要多。只不过，我们是用自动化技术来制造。

“既然沃森能够在电视智力比赛Jeopardy中回答问题，那它没什么理由不会回答人们打给客服中心时询问的问题吧？”德鲁克尔说，“那些是知识型工作岗位。它们并不是年薪20万美元的工作，而是重复性的低层级支持工作。有数百万人从事这种工作。”

德鲁克尔说，随着AI的进步，对于那些原来由薪水很高的数据分析专家来做的工作，如今计算机很多都能够胜任。“大型银行让1万名员工负责追踪洗钱活动或者*相关的财务交易。而计算机现在能够胜任90%这样的任务。”

麦肯锡咨询公司分析机器代替人类的工种的报告指出，“现有的技术可自动化45%人类有偿执行的任务，60%的职位有30%或以上的活动任务可被自动化。”

乍看之下，来自市场研究公司Forrester的AI报告则没那么令人忧心。该报告预计，到2025年，AI和机器人将替代7%的美国工作岗位。该报告预计，“美国16%的工作岗位将被替代，9%的岗位将被创造出来，”因此得出7%的整体替换率数据。

AI拥护者指出，AI将会创造工作机会，而不只是淘汰工作机会。的确是这样。但那些新岗位将会是高技能工作Forrester的报告列举的新岗位包括机器人专业监控员、数据科学家、自动化专家和内容管理者。

因此，被AI取而代之的低技能工人将需要接受重新教育和培训，很多情况下他们将需要高等教育。对于很大一部分没有经济能力接受这种教育的劳动力来说，这是一个严峻的问题。

牛津大学题为《未来的就业：各种岗位会受到计算机化技术多大的冲击》的报告详述了这一结论。该报告称，“当前的就业趋势是劳工市场两极化，高收入认知型岗位和低收入体力型岗位的就业人数越来越多，中等收入的规律性工作则日渐减少。”

该报告给出的预测令人震惊，引发了广泛的争论：它预计美国47%的工作岗位“非常可自动化”。其他的专家则对该数字不以为然，指出自动化技术的确能够替代工作岗位中的特定任务，但不一定能够完全取而代之。

这种乐观的想法或许还是可信的，但要指出的是，企业在AI上的支出预计将会稳步攀升。这表明，企业显然想要降低劳动力成本。

仔细看看媒体的报道，似乎没有什么工种是机器人不能胜任的。《麻省理工科技评论》报道称，机器人砌砖匠或者说SAM，半自动化的泥瓦匠在相同时间里所砌的砖数达到人类砌砖匠的3倍。“机器人能够利用各种算法和一系列测量倾斜角度、速率和方向的传感器和激光来完成这种工作。”

由于农业机器人的出现，农场工人的工作机会将会减少。目前而言，只有在特定的任务里，使用农业机器人才划算，不过未来这类任务将会争夺。来自研究机构Lux Research的图表对比了用人工和用机器人来给莴苣清除杂草的成本，事实上很多的低技能工种都可以画出类似的图表。

有的机器人能够摘果实，有的能够挤奶。瑞典公司DeLaval International展示了一款完全不需要人工干预的自动化挤奶机器。无人驾驶汽车的出现也威胁到交通运输从业人员的饭碗，从长途卡车司机到Uber司机；无人驾驶汽车已经在你附近的街道行驶。

白领岗位也不能幸免于难：德勤洞察报告预计，10年内法律行业可能会有39%的岗位被自动化技术替代。有的公司在开发AI系统来创作音乐，比如创业公司Jukedeck和索尼的Flow Machines，这也许会给人类的自尊造成巨大的打击。那些机器人创作的音乐听上去没什么灵魂。重申一遍，该技术还处于初生阶段。

2017年1月，我参加了在旧金山举行的Virtual Assistant Summit虚拟助手峰会。该峰会的主题是AI系统会如何支持或者取代人类。专题讨论会的话题包括：聊天机器人将如何变革我们的做事方式，针对医疗保健的机器人：它们将会辅助还是取代人类？

在该会议举行期间，我跟康奈尔大学计算机科学系教授巴特塞尔曼（Bart Selman）交流了一下。他在大会上发表了题为“技术性失业：事实还是胡扯？”的演讲。

研究AI已有二十多年的塞尔曼对于人类就业的未来并不看好。他曾经以为AI将只会取代低技能岗位，大多数的白领岗位会幸免。他告诉我，对此他的看法已经变了。“最初分析上，你会觉得中等技能类岗位似乎需要不少的知识和技能，但现在来看，AI似乎完全能够胜任那些工作。”他说。

尽管员工薪酬呈现下降，一部分是因为自动化技术，但企业的整体估值却升到了历史新高。塞尔曼认为，如果这种情况持续下去，可能会引起社会动荡。

此外，对于社会能够通过强调STEM（科学、技术、工程和数学）教育来解决AI相关的岗位流失带来的影响的普遍观点，他并不认同。“我并不倡导STEM教育，”他解释道，“毕竟只有很少一部分工作人口能够在科学技术行业找到工作。”美国劳工部的数据显示，美国只有5.9%的工作人口从事STEM工作。“因此，社会需要退一步想想，这些STEM工作是真正的解决方案吗？还是说它们只是听上去很美好的解决方案？”塞尔曼指出。

人工智能的未来

在《科学怪人》很重要的一个转折点是，怪物在获得人类意识后感到孤独。他要求一手缔造他的科学家维克多给他制造一个女性伴侣。这让维克多极其恐慌：如果他真那么做的话，那怪物及其女性伴侣可能会生出后代，继而危及全人类的存亡。跟当下的人工智能开发者一样，维克多也面临自己的创造品会带来的不可预知的影响。

维克多拒绝了怪物的要求，但也意识到一旦创造出了独立的、有自主意识的生命，就无法再回头了。暴怒之下，苦苦期盼的怪物疯狂报复，杀死维克多的未婚妻等几个亲人。维克多想要报仇雪恨一路追寻怪物到北极圈但受尽折磨后病逝。怪物因为维克多的死而感到非常伤心；该科学家是世上唯一懂他的人。他最终自杀身亡。

鉴于现在的AI开发者打造的系统越来越独立自主，人们会想：那些系统会否带来比维克多更好的结局呢？当然，维克多的实验只是破坏了他自己的生活，而现在的AI进展则将会影响整个人类文明和整个社会。人类会继续往前看，也许会乐观地往前看，但多少也会感到不安。现阶段，我们只能够希望会有最好的结果。

（英文来源datamation，译者乐邦）