向往的微软小冰 可能存在风险的人工智能

2013年12月18日在美国上映的电影《her》里面，男主在结束了一段令他心碎的爱情长跑之后，爱上了电脑操作里面女声，陷入与ai恋爱的泥沼无法自拔。这部电影获得了2014年第86届奥斯卡最佳原创剧本。

巧合的是，微软小冰的第一代发布时间也是在2014年。2014年5月29日，微软人工智能小冰正式发布。在发布后没多久，在微信群里“调戏”小冰成为时尚，微软第一批发布的10万个小冰账号在当天就被全部认领，结束后依旧有数万人排队等候认领。

近日，在“第七代微软小冰发布会”上，微软小冰团队公布了avatar framework的第一个工具包版本，它能够让每个合作伙伴、每个个人消费者都创造属于自己的“小冰”。

从2014年到现在，微软小冰一路升级优化，堪称是在目前最能满足人类对未来向往的智能产品之一，确实做的非常优秀。未来，或许会像电影《her》所描述的那样，现实中真的可能有人爱上善解人意的小冰。

可是，在美好的同时，越来越聪明，越来越像人的微软小冰也可能存在风险。能够足够拟人化的微软小冰如果再进一步优化，会否存在一些风险？微软对此究竟是否有应对之策？短期在b端的微软小冰会深受企业和个人的喜爱，但选择开放的背后，微软小冰一旦能被中小企业和个人使用，微软小冰会不会失去他的美好属性呢？

微软小冰五年 从 “ 智障 ” 到 “ 高材生 ” 的完美蜕 变

 

在大众眼中，微软可能一直是一个不苟言笑的大叔形象，可就是这么个严肃的大叔，却在五年前推出了一个16岁的清新萌妹“小冰”。

最开始，与其说“小冰”是一个智能机器人，不如说“智能语音助手”更为贴切。当时人们对于“人工智能”的概念多停留在iq层面，利用ai创造一些知识性功能。当时微软却决定研究发展ai智能的另一个维度——eq维度，即情感方面。

虽然在2014年5月29日当天，“小冰”一经发布就火速被认领完毕，但还是得承认，初代“小冰”的确存在很多槽点。前言不搭后语、声音僵硬，就是一个简单的搜索模型，基于一些文本资料与用户进行对话，于是有网友直接吐槽这是“人工智障”。

紧接着，一个多月后，微软就推出了二代小冰。“小冰”二代拥有了区别其他语音助手的“主动情绪探索功能”，可以说是真正具有了“情商”的机器人。这次微软采取的是跨平台战略，即与各大社交或者电商等平台展开合作，上线小冰机器人，如微博、京东等，虽然二代小冰还是只能与用户进行文字交流，但还是被50万用户一领而空。

首次能够开口说话的是第三代“微软小冰”。2015年8月20日，微软小冰团队发布了第三代人工智能小冰。这一次，小冰解锁了包括视觉、听觉在内的人工智能感官系统，结合情感计算技术，能够用更加逼近人类的方式，通过自然语言和用户进行交流。现在，小冰的唱歌水平已经十分接近人类歌手的唱歌质量。

值得一提的是，第三代小冰拥有了“自学”功能，小冰自己会在对话中进行数据文本的收集和分析，让自己的反应更能符合对话用户的需要。用户与小冰聊得越多，就会觉得小冰越懂自己。

到了第四代，微软小冰已经可以给人类打电话，在聊天期间，会打断和问询，让聊天过程更趋近与人类的的聊天模式，完成流畅的对话交流。其中的一大亮点，就是小冰当时拥有了实时决策能力，微软小冰团队开发了具备实时情感决策的对话引擎，升级的情感计算框架。这样一种新的全时感官，让人类和人工智能之间做到了双向同步交互。

在2016年的9月17号，小冰更新了三个新科技：推出日文单曲，拥有独立三观，给人类打电话。

2017年5月19日，微软小冰出版诗集《阳光失了玻璃窗》，本囊括了139首现代诗的诗集，全部由第五代微软小冰创作。其中有一句诗是这样写的——“树影压在秋天的报纸上，中间隔着一片梦幻的海洋，我凝视着一池湖水的天空。”不得不承认，一些人类创造的诗句都没有小冰写出的诗句那样的画面感和诗意。这时候的小冰，已经具备了人工智能创作功能。

直到去年，小冰成长到了第六代，已经越来越像一个“人”。在跟用户对话的过程中，不仅可以自创回应，基于共感模型，还能够通过求证等手段来控制聊天进程。

最近，微软小冰团队又发布了小冰七代。

截至目前，小冰已经做过电视台主持人，报纸专栏的特约记者，作为歌手还发布了自己的个人专辑，还写了一本诗，甚至还举办了自己的个人画展，拥有自己设计的服装品牌。

可以说，微软小冰的五年，实现了普通人类一辈子都可以做不到的事情。

从早期聊天机器人的智障，不完善却新鲜的智能聊天机器人被大家调戏、玩乐，堪称智障，到如今能够转化多种身份掌握多项技能，并且能力还比人类的效率高太多。不得不说，五年的时间里，小冰实现了从“智障”到“高材生”的完美跨越，从走出国门到走出亚洲走向全球化，并且未来肯定会更加聪明伶俐。

从相对封闭到大开放 人工智能的潜在 风险

8月15日，在“第七代微软小冰发布会”上，微软小冰团队宣布会要开放avatar framework的第一个工具包版本，预计明年春季发布面向个人使用者的版本。

这符合微软小冰团队一贯以来的“第三方平台战略”。此前，微软小冰团队明确表示不会推出小冰的第一方产品硬件或者app之类，而是做一个第三方服务平台。现在开放avatar framework，更是小冰迈向平台化的一大步。

资料显示，小冰团队发布的avatar framework，是一个拥有完整工具包的通用型ai框架。基于avatar framework，可以从人格的构建开始，完整地创造出一个人工智能助理虚拟人物或其它类型的机器人。

微软小冰在基于不同国家推出的小冰产品中，核心也是在基于这个框架在进行优化。这个框架的开放，意味着微软把造小冰的能力开放出来，小冰不再只是可以由微软制造，合作伙伴甚至个人也都可以定义一个网络上的智能虚拟人物。

这听起来其实挺美好，就像微软沈向洋所说的那样，“小冰和框架之间是这样一个关系。如果说小冰单独一个应用，她的价值是1，那么这个框架的价值就是1000、10000，甚至是无穷大。”

但从树木到森林的过程，人人都能创建 ai 角色的背后，对于人类来说却存在着不小的风险。这个危险不是向电影里面机器人想要颠覆人类对地球的掌控权，因为目前微软小冰以及机器人产业也远未到达那么智能的时代，确实说起来有些为时尚早。

只是，开放的背后，尤其是个人版的推出，这是很有可能会给很多公司甚至个人提供更多作恶的机会。

以前互联网上有句话叫“你永远不知道网络的对面是一个人还是一条狗”，当每个人都拥有自己微软小冰的时候，你甚至都没办法确定网络对面究竟是生物还是机器人，因为这个机器人在记忆力、检索能力方面都要比人类更强，人类甚至无法达到机器人聊天的反应能力以及幽默程度，可能与机器人聊天会比与你对象聊天还要快乐，这实在有点细思极恐。

对此，微软李笛也提出，人工智能最大的风险来自于代位，即成为某个人的替身，而微软小冰绝不会做出此类行为。“比如说我把你的声音模拟出来，给你的家人或朋友打电话，那这事就很麻烦了。我可以确保我的系统是稳定的，确保任何针对普通人的建模是我们拒绝的。”

确实，我们或许可以相信微软，但是当这个开放给广大个人和大量中小企业的时候，这是否会有漏洞可钻让他们用于他处呢？这确实很不可控。

人工智能应用的潜在风险 科技始终是一把双刃剑，当人工智能发展到一定阶段，就不得不面临一些道德伦理问题，就像著名电视剧《黑镜》里面所探讨的，科技带给人类的，除了便捷、美好，还有可能是人类难以想象的深渊。

前段时间，以东南亚地区为主的发生的人们津津乐道的“杀猪盘”背后，其实就有人类利用人工智能实施诈骗犯罪的影子。

现在国家重点打击的电信诈骗，就跟人工智能脱离不了关系。很多的关于电信诈骗曝光的报道中，就提到了犯罪团伙利用人工智能搜集数据、受害人信息，实施更准确的诈骗行为。

而当聪明的机器人被利用到电信诈骗当中的时候，如果人工智能能够模仿某个人的声音，给这个人的家人或朋友打电话，甚至聊的内容都基于平时的信息记录进行匹配，那么有可能这个人的家人或朋友就会上当受骗，因为人工智能说不定能够做到以假乱真，人们很难分辨这究竟是人类还是机器人。

现实表明，目前尽管很多人声音、说话、套路很明显，但依然会有很多人上当受骗。

而对于实施诈骗的人来说，人工智能无异于是他们的“得力助手”同时，这些人工智能机器人能够及时地基于市场最有效的诈骗套路、话术去结合模拟相关真人的方式，持续地去进行发酵，让诈骗模式更加先进、成熟，从而导致更多人上当受骗。

在电信诈骗之外，利用人工智能实行网络诈骗的案例也层出不穷。在知名商业题材电视剧鸡毛飞上天中，陈江河小儿子陈路在小学生阶段，通过自己编写的网络软件模拟一个成年男人与一名女网友见面的场景很多人还历历在目。现实情况下，一些婚恋网站模拟机器人进行聊天，然后诱惑用户进行充值实施诈骗的案例也频繁多件，每年总有几起类似的案件会出现。

当人工智能在处理情感上已经越来越像一个“人”，如果成为一个个个体，活跃在各个网络平台，qq、微信、婚恋平台，模拟其主人的身份去活跃，就很容易给让这些网络聊天更加逼真，更好实现诈骗。

在很多人感觉已经没有了隐私的互联网时代，人工智能给人们带来的可能是毫无隐私可言，甚至利用隐私犯罪。今年九月，浙江就抓获了一起利用人工智能窃取公民个人信息倒卖案件，涉及43个犯罪团伙。

在除了一些人主动利用人工智能实施的犯罪以外，人工智能本身也存在着一定的缺陷和漏洞，比如把机器人接入车载系统，在聊天互动的过程中，可能就会导致驾驶员无法专注开车而发生车祸。而无人驾驶车交通肇事、机器人警卫误伤小孩，这种情况也是时有发生。

从用户角度而言，过度沉迷于与人工智能的交流，可能会让一些人失去现实沟通的能力，沉迷于网络虚拟世界，而忽视了与身边的人的沟通。在电影《her》里面，主人公就是沉溺于与机器人的恋爱，难以回归现实生活。

整体来说，人工智能的出现可能是人类和科技进步的一个表现。面对这种潜在的风险，微软（亚洲）互联网工程院副院长、小冰团队总负责人李笛在《深度学习》一书的序言中称：“

在微软，我们成立了与人工智能及伦理相关的组织，力图在当前的框架内去发现尽量多的问题，尽可能在早期就避免问题的发生。微软在人工智能领域的技术和产品线很广泛，因此我们做过的抉择也相对较多。这些抉择往往决定了我们在有能力的情况下，主动放弃去做什么。

这意味着克制与敬畏之心。例如：微软小冰在两年前推出拟人的全双工语音电话技术（full duplex）时，我们就制定了该产品的伦理规则，不允许在用户不知情的情况下，让小冰伪装成真人去拨打电话。我们也不使用微软小冰的技术去从事呼叫中心的外呼业务，因为它存在被滥用为垃圾广告电话的风险——尽管这些往往意味着巨大的商业价值。这种克制，不仅仅是一两家企业的责任。它依赖于整个社会对人工智能，特别是深度学习相关技术的了解。”

文 |小谦，小谦笔记（http://xiaoqianbiji.com/）创始人，互联网观察员，数十家科技媒体专栏作者，微信请联系net1996，转载请注明版权