欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  科技

人工智能可以发现假新闻?任重而道远

程序员文章站 2022-05-11 10:16:47
传统媒体正陷入困境中,它们不再是新闻和信息的唯一来源,互联网和社交媒体已经成为新闻分享的主要平台。皮尤研究中心的报告显示,62%的美国人从社交媒体上获取新闻。社交媒体的兴起也意味着任何人都可以创造和分...

人工智能可以发现假新闻?任重而道远

传统媒体正陷入困境中,它们不再是新闻和信息的唯一来源,互联网和社交媒体已经成为新闻分享的主要平台。皮尤研究中心的报告显示,62%的美国人从社交媒体上获取新闻。社交媒体的兴起也意味着任何人都可以创造和分享新闻故事,不管它们是真的还是假的。消费者受到大量新闻故事的“炮轰”,却不知道这些内容是否真实。

在社交媒体上,重要的是情感,而不是事实。正如Facebook前产品管理副总裁萨姆莱辛(Sam Lessin)接受《连线》杂志采访所说的那样:“为了获得市场份额,你需要更加激进,理性不会帮你得分。”

为了真正地吸引读者的情感,新闻出版商为了在新闻市场上保持吸引力,不得不出版扭曲的真相。如今,新闻必须是可分享的,新闻越激进,它在社交媒体上被分享得越多。发布假新闻的成本接近于零,因此,维持值得信赖的新闻发行商声誉的动机越来越少。

谷歌正通过在新闻网站news.google.com以及手机和平板电脑上的Google News and Weather应用程序中引入事实核查功能在与虚假新闻作斗争。Android Headlines援引杜克大学记者实验室的报道称,目前有100多家活跃的事实核查网站。然而,正如他们指出的那样,由于共享信息的成本较低和更多的运营商参与了新闻传播,几乎不可能对所有的虚假新闻来源进行检查和监管。

幸运的是,我们也不再生活在一个需要由人类完成所有工作的时代。西维吉尼亚大学正在开发人工智能(AI)系统,以检测新闻是否真实。这所大学计算机科学系的成员们正与WVU Reed大学合作创建一个假新闻检测系统,其中一种方法是使用机器学习来分析文本,并给它打分,分数可指示它可能属于假新闻。

为了提高透明度,这些分数被分解成几个能够解释评级标准的成分。西维吉尼亚大学计算机科学系学生史蒂芬沃尔纳(Stephan Woerner)表示:“AI可以像人类那样拥有同样的信息,但它可以应对大量新闻,并破译其有效性而不会感到疲惫。人们往往有政治或情感倾向,但AI则不然。它只用于解决被训练用来对抗的问题。”

这些AI的工作属于跨学科努力,因为解决假新闻危机不仅依赖AI,而且还需要社会和政治投入。欺诈监测公司DataVisor的产品经理凯瑟琳卢(Catherine Lu)对AI检测假新闻的可能性非常乐观。她说,AI可以通过分析标题、主题、地理位置和主体文本来检测出网络故事背后的语义含义。自然语言处理引擎可以查看这些因素,以确定一个网站的覆盖范围与其他网站如何报道同样的事实,以及主流媒体是如何处理它的。

Fake News Challenge是另一个对抗虚假新闻的平台。这个研究项目主要关注AI的潜力,特别是机器学习和自然语言处理,以识别假新闻故事。它从一个立Stance Detection过程开始,这个过程会检查新闻文章的视角,并与其他报道进行对比。例如,它可以检测两大标题是否一致或相互矛盾。

德国网络安全公司ESNC的首席执行官阿萨尔(Ertunga Arsal)告诉福克斯新闻网,互联网上假新闻泛滥实际上有利于AI检测假新闻,这是因为大量的信息为机器学习和自然语言处理系统提供了大量可供学习的数据。然而,AI还不能完全胜任这项工作。尽管像Fake News Challenge这样的工具可以在特定范围缩小假新闻比例,比如“奥巴马时代美国失业率上升”,但更复杂的标题,比如“普京治下的俄罗斯人干涉美国总统选举”,仍然超出了AI和机器学习可以应对的虚假或正确新闻的范畴。

Fake News Challenge表示:“除非我们已经拥有达到了人类水平的AI,能够理解微妙而复杂的人际互动,并进行调查性新闻报道,那时我们才有可能自动检查。”然而,自动化系统无疑会让工作的某些部分变得更容易、更高效。

并非所有人都这么乐观。安全公司Guidance Software的高级技术经理保罗肖莫(Paul Shomo)告诉福克斯新闻网说,假新闻的生产商可以使用AI算法来操纵他们的作品分析,而假阳性可以识别真实的新闻故事。

纽约大学斯特恩商学院的兼职教授达伦坎普(Darren Campo)也对利用AI发现假新闻的后果表示谨慎。他在接受采访时说,人们关心的是新闻是否与他们自己的世界观相匹配,而不是它是否是假的。假新闻主要是基于读者的情绪反应。根据坎普的说法:“AI无法理解人们准备享受谎言的背景。”

但有一件事是肯定的,假新闻正在威胁人们对世界大事的了解程度。获取新闻的方式和手段已经改变,技术也将不得不改变,以确保人们听到的是真相而不是谎言。在新闻故事中,AI在区分事实与虚构方面有一定的作用。现在的问题是,读者们是否仍然关心这一差异。

(英文来源/venturebeat,编译/机器小易,校对/小小)