Facebook：自动化是解释受禁内容周围环境的“钝器”

 
Facebook长期以来一直吹捧其AI工具的功效，以帮助清除被禁止的内容，但该公司今天承认，其技术完全不能满足欧洲法院(ECJ)最近的一项要求，该裁决要求使用自动过滤器检测诽谤内容。
本月初，欧洲法院就由奥地利绿色政治家伊娃•格拉维施尼格-皮切克(Eva Glawischnig-Piesczek)提出的针对爱尔兰社交网站Facebook Ireland提起的争议性裁决。最初的投诉可以追溯到2016年，当时一位匿名的Facebook用户在奥地利一家报纸上发表了一篇文章，讨论了格拉维施尼格-皮斯切克(Gwiwischnig-Piesczek)和她的政党对移民的看法，以及涉及诸如“叛徒”，“腐败”和“法西斯主义”的言论。
在Facebook无法删除帖子或传递用户的真实身份后，奥地利绿党通过奥地利地方法院追究了这家社交媒体巨头，该法院裁定Facebook应该删除原始帖子，并逐字逐句重新发布-该裁定是为了全球适用。这导致Facebook向欧洲最高法院的裁决提出质疑，该法院随后同意Facebook必须从全球平台上删除此类帖子。尽管该决定引发了对一个欧洲国家是否应该决定另一个国家可以查看哪些内容的批评，但深入研究此案的详细信息表明，Facebook可能将不得不使用自动化工具和过滤器来识别被认为是社交媒体的帖子。内容中的“相同”或“等同”，可能会完全忽略帖子共享的上下文。
这样做的结果是，Facebook平台上完全合法的帖子可能会陷入困境，这仅仅是因为该公司基于AI的算法不够聪明，无法识别帖子的上下文或背后的细微差别。
当时，言论自由运动组织第19条的执行主任托马斯·休斯(Thomas Hughes)指出：“这一判断对全球在线言论自由具有重大影响。” “像Facebook这样的强大社交媒体平台不管其上下文如何自动删除帖子，都会侵犯我们的言论自由权，并限制我们在网上看到的信息。该判断未考虑自动过滤器技术的局限性。”
规模
拥有超过20亿的Facebook用户，庞大的规模使得仅人类就很难监控滥用内容。这就是为什么公司近年来使用自动化工具来解决诸如共享虐待儿童图像和来自有组织的仇恨团体的内容之类的重大问题的原因。今年早些时候，Facebook宣布其AI智能设备现在可以识别出96.8%的违禁内容，但面对必须理解“相同”或“等同”帖子的前景，该公司表示，其技术的准确性并不在于它必须是。
Facebook全球政策管理副总裁Monika Bickert在博客中承认：“尽管我们的自动化工具已经走了很长一段路，但它们仍然是一种钝器，无法解释与特定内容相关的上下文和意图。” “确定帖子的信息通常很复杂，需要围绕意图进行复杂的评估，并了解使用某些单词的方式。”
实际上，即使是财力雄厚的Facebook，尝试实施如此广泛的取消政策可能也是一个巨大的挑战。在一个理论上的例子中，两个人可以共享指向批评政治人物的新闻文章的链接，一个人谴责该报道，另一个人支持该报道。其中一位用户甚至可能发表评论，似乎支持诽谤性主张，但大多数人会轻易地将其视为讽刺。
Bickert补充说：“上下文至关重要，自动化工具将不知道它们之间的区别，这就是为什么依靠自动化工具来识别相同或“等同”内容的原因很可能会导致删除完全合法和合法的言论。
这不是Facebook首次承认自动化在监视内容方面的真正限制。在今年早些时候发生的克赖斯特彻奇恐怖袭击之后，肇事者对数十人的谋杀进行了现场直播，Facebook表示，仅AI可能永远无法阻止人们直播暴力行动。该公司在全球范围内雇用了超过15,000名人类内容主持人，以增强其自动化工具并干预边缘案例。因此，如果Facebook要遵守ECJ裁决，​​则可能只需要雇用更多的人工主持人来帮助计算机确定问题所在。
在10月初与员工进行的公开问答中，Facebook首席执行官兼联合创始人马克·扎克伯格(Mark Zuckerberg)表示，该公司和其他组织将重新回到欧洲法院，以寻求如何有效审查此类内容的明确性。
扎克伯格说：“在这方面，确切实施方式的许多细节将取决于整个欧洲的国家法院，以及它们所定义的相同内容还是大致相同的内容。” “这是我们和其他服务部门将要提起的诉讼，并将澄清这意味着什么。我知道我们谈论自由表达是一种价值，我认为这是一个相当令人不安的发展。”