令人恐惧：AI发展出了自己的语言 人类无法理解

6月19日消息 据《大西洋月刊》网站报道，Facebook在实验中让两个AI聊天机器人互相对话，发现机器人竟逐渐发展出人类无法理解的独特语言。

Facebook人工智能研究实验室使用机器学习来训练聊天机器人程序。研究人员两个机器人彼此对话，结果发现机器人竟逐渐发展出了不同于人类语言的对话，研究人员不得不对其进行人工干预。

换句话说，两个机器人使用机器学习进行对话策略迭代升级，最终将导致机器人以人类无法理解的语言进行交流。AI自行升级的速度超出预期，让人联想到《银翼杀手》中的科幻场景。

Facebook在研究报告中指出，机器人有时可以很好地胜任客服谈判的角色，甚至懂得使用“先假装而后承认”的对话策略。但是实验中机器人自行发展出新语言让人不安，人们或许可以从中一窥未来世界的样子。

语言被认为是人类独有的技能。Facebook的聊天机器人的表现刷新了人们的认知。

机器学习在推动技术革新的同时，也带来了“黑箱”难题：AI的结论很英明，但其推理过程人类无法理解。人们提出过很多试图破解这个黑箱的方法，包括向神经网络投喂特定主题的数据，然后根据输出结果来推测机器的思维方式。如今，机器能够产生非人类交流方式这一发现，还是让包括系统设计者在内的所有人都感叹人类知识的有限。

“未来的工作还有很多潜在可能，特别是让机器理解更多推理策略，以及在不偏离人类语言的情况下提高表达的多样性。”Facebook研究员在报告中写道。（孙文文）