全景科学 ·

危险的视频推荐算法



撰文:柴内普·图菲克奇(Zeynep Tufekci)

翻译:红猪


现在是凌晨三点,烟雾报警器嘀嘀响个不停。家里并没有着火,我也不必惊慌。我要做的只是让这讨厌的东西安静下来,平息我的怒火。我已经卸掉了电池,还把全部按钮都按过一遍扭过一遍,但就是没用。 幸运的是,我在Youtube教程里找到了所有问题的解决方案。视频帮助我选好了对策,并且列出了每一个步骤。看到它有数十万点击我安心了:这或许真的管用。


 YouTube已经成为学习一切技能的地方,从怎么安装宜家的柜子到怎么连接蓝牙耳机,应有尽有。Youtube汇总了各种教程,有的很好,有的不着边际,还有的由专门人士制作,他们通过广告赚了大钱。但对许多视频上传者来说,他们在解决问题的同时,把答案分享给全世界。


 数码世界的土著语言应该是视频而不是文字。然而这个趋势却被主导前数字时代公共对话的知识阶层错过。我注意到,许多年轻人在搜索自己想要的内容是都是从YouTube开始的。YouTube的所有者谷歌也会在搜索结果里重点标记视频。


“要怎么”组装那只桌子,减轻我的中风,确定我是个女性主义者,选择疫苗,给我的面颊打光,系鞋带,研究气候变化的真假……YouTube上总会有人知道。但还有一些别有用心的人也盯上了这个网站。他们是极端分子、阴谋论者和守旧派,他们知道YouTube是一道信息的门户,尤其对年轻一代而言。


YouTube的黑暗面也在这里:它的盈利之道是将用户留在网站,给他们播放定向广告。为了使用户持续观看,这个网站还使用了基于人工智能的一套推荐系统(毕竟是谷歌)。


其实在2015年,当谷歌的AI部门“谷歌大脑”接管YouTube的推荐功能后,就有人写文章赞美它显著增加了“参与度”(engagement)――硅谷的黑话,意思是引诱你在网站停留更长时间。


这些“推荐”视频一个接一个地播放。也许你刚放完一个如何磨刀的教程,就会出现女性主义如何摧毁男性气概、疫苗有什么毒性或者为什么气候变化是一个骗局之类的视频,当然,也有可能是一个时髦的主播在“证明”泰坦尼克号从来没有撞上过冰山。


YouTube的算法会推荐任何它们认为能提高参与度的视频,看来它们已经发现了荒谬的说法、仇恨言论和兜售愤怒特别有效。


收到有害内容的推荐已经成了一种普遍体验,已经有人大声反对这种现象。后来,谷歌封杀了几个明显冒犯观众的高调“内容创造者”,并在不久前宣布了一个方案,准备减少推荐那些“低俗或以有害方式误导用户的内容”。谷歌表示,需要减少的内容包括“对严重疾病的虚假神奇疗法”以及宣扬“地球是平的”的言论。虽然在推行这个方案之前,算法已经将这些人的观点推送给了数百万人。


虽然我很开心看到谷歌的回应,但这个问题是深刻的、结构性的。谷歌的商业模式就是积极推荐观看次数最多的内容。另外,YouTube的手伸得很远,谷歌旗下有一系列便宜又漂亮的Chromebook笔记本电脑,这款电脑在美国初等教育电脑市场上占据了一半以上的份额。YouTube就预装在这种电脑上。许多家长和教育者大概都没意识到自己的孩子和学生对它有多依赖。


就像我们不能呵斥孩子离开草坪一样,我们也无法忽视一个事实:孩子们使用YouTube是有原因的。上面有他们想看的东西,就像我真想知道怎么在凌晨三点结束那场嘀嘀乱响的灾难。我们要用法规、自律和教育应对这个现实。我们不知道推荐系统的原理,不知道它的设计是怎么把我们的眼睛钉在屏幕上的。但我们可以要求学校里的Chromebook不安装YouTube,或者关闭“推荐”功能。


在利润、全球规模和人工智能的危险关系中,这只是冰山一角。这是一个崭新的时代,它提出的挑战和泰坦尼克撞上的冰山一样真实。


《环球科学》2019年5月刊现已上市

点击图片或点“阅读原文”立即购买


参与评论