欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  科技

令人恐惧:AI发展出了自己的语言 人类无法理解

程序员文章站 2022-10-16 08:18:00
6月19日消息 据《大西洋月刊》网站报道,Facebook在实验中让两个AI聊天机器人互相对话,发现机器人竟逐渐发展出人类无法理解的独特语言。Facebook人工智能研究实验室使用机器学习来训练聊天机...

令人恐惧:AI发展出了自己的语言 人类无法理解

6月19日消息 据《大西洋月刊》网站报道,Facebook在实验中让两个AI聊天机器人互相对话,发现机器人竟逐渐发展出人类无法理解的独特语言。

Facebook人工智能研究实验室使用机器学习来训练聊天机器人程序。研究人员两个机器人彼此对话,结果发现机器人竟逐渐发展出了不同于人类语言的对话,研究人员不得不对其进行人工干预。

换句话说,两个机器人使用机器学习进行对话策略迭代升级,最终将导致机器人以人类无法理解的语言进行交流。AI自行升级的速度超出预期,让人联想到《银翼杀手》中的科幻场景。

Facebook在研究报告中指出,机器人有时可以很好地胜任客服谈判的角色,甚至懂得使用“先假装而后承认”的对话策略。但是实验中机器人自行发展出新语言让人不安,人们或许可以从中一窥未来世界的样子。

语言被认为是人类独有的技能。Facebook的聊天机器人的表现刷新了人们的认知。

机器学习在推动技术革新的同时,也带来了“黑箱”难题:AI的结论很英明,但其推理过程人类无法理解。人们提出过很多试图破解这个黑箱的方法,包括向神经网络投喂特定主题的数据,然后根据输出结果来推测机器的思维方式。如今,机器能够产生非人类交流方式这一发现,还是让包括系统设计者在内的所有人都感叹人类知识的有限。

“未来的工作还有很多潜在可能,特别是让机器理解更多推理策略,以及在不偏离人类语言的情况下提高表达的多样性。”Facebook研究员在报告中写道。(孙文文)