欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  科技

你的日常并非自己决定 算法正在统治人类生活

程序员文章站 2022-05-23 21:47:36
据英国《卫报》报道,科技巨头的算法对人类生活影响越来越大,我们应该怎样应对?在最近在德国柏林举行的国际互联网研究者协会(Association of Internet Researchers)第17届...

你的日常并非自己决定 算法正在统治人类生活

据英国《卫报》报道,科技巨头的算法对人类生活影响越来越大,我们应该怎样应对?在最近在德国柏林举行的国际互联网研究者协会(Association of Internet Researchers)第17届年度会议上,数位与会的女性学者讨论了这一话题。

在20世纪70年代初,汉娜·阿伦特(Hannah Arendt,1906年10月14日—1975年12月4日,20世纪最伟大、最具原创性的思想家、政治理论家之一)对美国五角大楼越战时期的政策进行了严厉批评,她说:“决策者没有判断力,他们只知道计算。”

如果决策者也玩“概率游戏”,这是发扬一种赌徒而非政治家的精神。他们“计算现实问题时凭借的是完全非理性的信心”,所考虑的范围非常有限,忽略剩余的或潜在的问题。

微软研究院首席研究员凯特·克劳福德(Kate Crawford)称:随着人工智能和机器学习的发展,科技的影响力越来越大。我们对科技的信心正再次变得非理性。”

如在对人口水平进行预测时,所采用的算法忽略了那些人和那些事物应该计算在内,包括“那些人是从*里释放出来,你在医院时能得到什么样的待遇,你看什么样的新闻” 等。那么,我们如何应对这个“未来50年我们面临的最大挑战”?

克劳福德及其他三位女性专家参加了国际互联网研究者协会第17届年度会议。让她们产生鸣的一个话题是:随着“机器逻辑计算将人类和非人类的统治者联系在一起”的出现,我们面临一个亟待解决的问题。

克劳福德认为,最近引起国际公愤的Facebook对一张普利策奖获奖照片的审查,只是这类问题的冰山一角。她说,在数量众多的自动化和半自动化的幕后决策中,这是一个影响巨大的例子,“它们(机器逻辑计算)被植入在后端系统,在多个数据集的接口处发挥作用,没有面向消费者的接口。我们根本不清楚它们如何运作及遵循什么的规则。”

对于这些担忧,德国锡根大学数字媒体教授卡洛琳·格利茨(Carolin Gerlitz)也有类似的共鸣。她说,今天的数字公司“允许我们从事某项活动,但是以精准控制、数据化(datified)和预先准备好算法的方式。他们让一项活动可以进行,但又让这项活动可以计算和测量。

荷兰皇家科学院院长、会议主题发言人何塞·蒂克(José van Dijck)则表示,数据化(Datification)是她所谓“平台型社会(the platform society)” 的核心逻辑——在“平台型社会”中,公司通过承诺提供更好和更有效的服务,在欺骗公众的同时掩盖自己私利,从而更有效绕过传统机构、标准和法律。

何塞·蒂克及其同行有一个刚刚萌芽、迫切的想法。她们为这一跨学科研究制定了一个紧迫的日程表——在微软研究院,克劳福德也在领导这一研究。同时,包括新莱弗尔梅未来智能中心(Leverhulme Centre for the Future of Intelligence)在内的许多研究机构,也在进行这方面的研究。

这些观点与旧的理论有冲突,旧的理论认为这是消费者有意识的举动,但如果是这样,消费者理论上应该可以退出(该平台)。然而,来自柏林公益组织Tactical Tech的菲克·简森(Fieke Jansen)承认,即使是数字权力活动家也必须通过电子邮件进行联系。全球五大高科技公司以及它们背后极为集中的财政资源,在“权力和财富越来越集中的社会中” 走在了最前沿。

简森问道:“我们怎么让它们领先那么远。”

克劳福德则认为,高科技公司变得如此强大有非常实际的原因。她说:“我们正试图把大部分责任归结到个人身上,却避而不谈‘邪恶平台’的问题,而在现实中,有很多原因让个人无法承担太多责任。(如果不使用这些平台)人们很可能失去工作、朋友和家庭,这代价是如此之高。”她表示,即使你设法避免使用Facebook、Gmail或iPhone等,我们仍是“广泛跟踪的宇宙”的一分子。

她说:“我们仍然认为应该有机构对我们在个人层面参与这些过程负责,但我真的不认为我们可以做得更多,或者至少这个意义上来说,我们能做的在非常迅速地减少。”

如果消费者选择不充分,那么透明度是必要的,但这还不够。克劳福德认为,我们需要寻找政治杠杆,以及能改变信息生态的集体性、共同创建的模型。何塞·蒂克则将其描述为公共价值观的再次激发,主要通过了解、斗争和谈判的方式。菲克·简森对此表示赞同,但强调需要普及对话,特别是通过艺术和文化方面的对话——以及当我们处理的问题无疑是政治性的时候,不再讨厌政治手段。

在柏林,这些学者如此激烈地揭露高科技巨头所拥有占绝对优势、难以描述的权力,不过是得出了一个长久以来的结论:我们需要解决方案。(刘春)