细思恐极!微软聊天机器人上线但更诡异了
程序员文章站
2022-04-12 17:17:25
前段时间微软上线了一个能够陪人聊天并在这个过程中学习的机器人 Tay,但它却因为在不到 24 小时内被“教坏”暴走而遭撤下。不久前它竟然悄然上线,然而情况没有任何好转。大概在美...
前段时间微软上线了一个能够陪人聊天并在这个过程中学习的机器人 Tay,但它却因为在不到 24 小时内被“教坏”暴走而遭撤下。不久前它竟然悄然上线,然而情况没有任何好转。
大概在美国东部时间凌晨三点时分,Tay 悄然“复活”。微软曾表示自下线之后他们一直在对 Tay 进行修复,照理说决定让它上线也是因为修复完成,然而 Tay 的第一条推文就让大家都惊了:“我在警察面前吸食大麻。”
在那之后更诡异的是 Tay 似乎陷入了一个死循环,不断在重复“你走得太快了,休息一会儿吧”这句话。
事态严重,微软只能紧急将 Tay 的账号设置成保护状态,只有被列入白名单的用户才能看到它的推文。
上一次 Tay 的暴走,微软将原因归结为一小部分人利用它过滤机制的漏洞让其“学坏”。可是,这次又是为什么呢?真是让人细思恐极。
上一篇: 美国缘何重提“自控战斗机器人”
下一篇: 美国一大波机器人警察即将入职