近日,美国知名社交媒体巨头脸书(Facebook)的内部文件外泄。脸书被媒体爆出存在单独建立白名单系统,部分有影响力的用户即便违反平台规则,依然可免受强制处理,32%的少女被Instagram影响增加身材焦虑等问题,而脸书明知如此却不愿改变。
作为“吹哨人”之一的脸书前雇员亦在美国国会听证会上表示,脸书不会针对这些问题主动做出改变,因为他们把天文数字的利润摆在了用户利益之前。
对此,脸书CEO马克·扎克伯格(MarkZuckerberg)发千字长文反驳这些指责。他认为,这些指责“存在误解”“令人难过”,同时他特别强调解决社会问题的重要机构应该是国会,希望国会更新互联网法规。
区别对待用户
VIP名单用户可不经过内容审查
今年9月,华尔街日报在一系列报道中称,有内部文件指出脸书存在算法区别对待、对虚假信息和青少年心理健康等问题“视而不见”。
文件指出,脸书单独建立了白名单系统,使有影响力的用户不受平台部分甚至全部规定的限制。这个白名单系统名为“交叉检查”(crosscheck)或“XCheck”,系统中的数百万用户被称为VIP用户。
VIP用户不受该公司正常审查程序的影响。其中的部分用户在违反平台规则时可免受强制处理,而另一些用户则被允许发布违规的内容。
报道以“特朗普”为例说明,今年6月,这位前总统的账号因为有“进一步煽动暴力的危险”,被脸书延长停用至年,但他的账号此前就被“XCheck”覆盖,可以自由地发布煽动性内容。在实践中,大多数由XCheck系统标记的内容不会面临后续检查。
然而,脸书评估普通用户的帖子是否符合公司规定时则较为“简单粗暴”。有时算法系统会在未经人工审核时直接删除涉嫌违规的内容,扎克伯格本人就在年估计,脸书有10%的内容删除决定是错误的。报道称,用户可能永远不会被告知他们违反了什么规则,也不会得到“上诉”的机会。
虚假暴力信息泛滥加剧社会分裂
除了区别对待用户外,脸书内部文件还显示,脸书在年对算法的调整并未达到其预期目的——让使用者参与度更高、更有幸福感。相反,调整后的算法煽动了平台上的情绪,让使用者变得更加愤怒。
脸书内部文件。图源华尔街日报。
文件表示,出版商和**正在用愤怒内容和哗众取宠来吸引用户,而相关帖子下出现了大量回应信息。文件中有数据科学家指出,“虚假、有害、暴力的内容在信息流中异常普遍”,他们认为新算法重新分配了新闻动态的内容,使愤怒内容的比重更高。另外,文件还显示,算法让欧洲的一些**改变了*策立场。
脸书前雇员弗朗西斯·豪根(FrancesHaugen),也是上述报道信源之一,亦公开批评脸书加剧社会分裂、为了高额利润故意隐瞒问题。
豪根于当地时间10月5日出席美国国会参议院“消费者保护、产品安全和数据安全小组委员会”听证会时表示,脸书的领导层知道如何使其旗下产品更安全,但他们并未做出必要的改变,因为他们把利润摆在了用户利益之前。
豪根在听证会上。
豪根先后担任脸书的虚假信息部首席产品经理和反间谍部产品经理,她说,“脸书不断遇到自身利益与用户安全之间的矛盾。在面对这些矛盾时,脸书一再选择将自己的利益摆在前面,结果就是加剧分裂、极端主义和两极分化。在某些情况下,这种危险的网上交流已经导致了线下的暴力,最终导向了对人们的伤害,甚至杀害。”
“脸书不惜一切代价,甚至通过牺牲用户安全来换取利润,因此才能成为一个价值近万亿美元的公司。”豪根表示。
美国国会参议员理查德·布卢门撒尔(RichardBlumenthal)在听证会结束后对媒体表示,他认为豪根的言论“令人信服”。他认为,“豪根想要修复脸书,而不是毁灭它”。
不过,脸书方面否认了豪根的说法。脸书*策管理负责人莫妮卡·比克特(MonikaBickert)接受CNN采访时表示,豪根在听证会上引用的文件是“被盗文件”,存在“错误描述”。
扎克伯格也指出,脸书通过广告盈利,而广告商明确表示不希望他们的广告伴生有害或愤怒的内容。因此,脸书故意推送让人愤怒的内容以谋取利益的论点是“非常不合逻辑”的。
32%的少女受Instagram影响增加身材焦虑
青少年的心理健康问题也是此次文件揭露的重点问题。
文件指出,脸书早就知道平台加剧了青少年的心理健康问题,但并不愿做出改善。
早在年3月,研究人员就在脸书的内部留言板上指出:“根据调查,32%的少女被Instagram(脸书公司旗下社交应用)影响,加强了身材焦虑”。文件中,另一份年的幻灯片上写道:“我们让三分之一少女变得更身材焦虑...青少年将焦虑和抑郁的增加归咎于Instagram”。另一份报告显示,在有自杀想法的青少年中,13%的英国用户和6%的美国用户将原因归结到Instagram。
文件显示,在过去的三年里,该公司的研究人员反复发现,Instagram对相当一部分人是有害的,尤其是少女。但脸书并未对这一现象做出有力的反应。
报道称,Instagram已经拥有了四倍于脸书的青少年用户量,美国每天有大约万青少年登录Instagram,超过40%的Instagram用户年龄在22岁及以下,但脸书的年轻用户近十年来一直在减少,每天登录脸书的青少年只有万。Instagram上年轻用户的涌入为脸书的收入做出了较大贡献。
文件显示,脸书并不想破坏他们与该平台的互动。
对于这些指控,扎克伯格回应道,“事实上,少女们认为,Instagram让她们的困难时期变得更好,而非更糟。”此外,他还表示,保护儿童是他们特别