Twitter采取行动遏制包括“ deepfakes”在内的操纵内容

 
Twitter周二公布了一项计划，以遏制包括“深造”视频在内的被操纵内容的传播，以此作为打击可能导致暴力或其他伤害的错误信息的举措的一部分。
这项政策是在去年Twitter要求就减少在线平台上“合成和操纵媒体”的方式发表评论之后宣布的，该方式可能会在选举活动中欺骗人们或引起暴力或人身伤害。
Twitter及其其他社交平台一直在努力应对有关错误信息的担忧，该公司表示其新政策要求对推文进行警告“标签”混合，其中包括操纵图像或视频，以及删除推文。
此举之所以引起人们的关注，是因为越来越多的人担心使用人工智能改变了“深层”视频以及其他欺骗社交媒体用户的操纵方式。
Twitter信任与安全副总裁德尔·哈维(Del Harvey)表示，新政策不仅针对深造假货，还针对其他形式的操纵，有时被称为“浅假货”或“便宜货”。
她说：“这不是一个假冒的规则。”
“我们想解决媒体被更改或伪造的任何事件。”
哈维在与记者的电话会议上说，是否包括标签或删除内容的决定将取决于“可能造成伤害的可能性和严重性”。
Twitter在博客中表示，它将从3月5日开始执行新政策，提醒用户注意被操纵的图片或视频，有时还会通过指向有关该主题的更多信息的链接来抵消它们。
Twitter表示将在发布的旨在欺骗他人的假视频上贴上警告标签，并在某些情况下删除
集团产品经理Ashita Achuthan和网站完整性负责人Yoel Roth在博客文章中说：“您可能不会欺骗性地共享可能造成伤害的合成或操纵的媒体。”
“此外，我们可能会标记包含合成和操纵媒体的推文，以帮助人们了解媒体的真实性并提供更多背景信息。”
包括政客
据哈维说，新规定将适用于政客及其竞选活动。
她说：“如果媒体被更改或捏造，无论个人是谁，这项政策仍然适用。”
Twitter高管表示，例如，在这项政策下，美国前副总统乔·拜登(Joe Biden)和众议院民主党发言人南希·佩洛西(Nancy Pelosi)篡改的录像带引起了最近在社交媒体上的争议，这违反了新规定。
罗斯说：“无论您使用先进的机器学习工具还是使用99美分的应用来减慢手机上的视频速度，我们的规则都适用于内容，而不是如何实现结果。”
“最终推文会导致混乱或误解，还是导致故意误导人们?这就是问题。”
在宣布这一消息之前一天，YouTube表示将删除“操纵或篡改”与选举有关的视频，以误导选民，与此同时，人们对散布可能影响全球选举的错误信息的担忧日益加剧。
对错误信息有自己的政策的Facebook在1月份表示，它将禁止Deepfake视频，但只要它们是模仿或讽刺，就允许对其进行大量编辑。
Twitter在决定以欺骗性方式操纵或完全捏造哪些内容时将权衡因素，包括对其进行多大程度的编辑;音频是否已被复制或删除，以及所显示的是模拟。
被禁止的内容列表中还包括“跟踪或不必要的和过分注意的形式”对隐私或自由表达的威胁;目标内容包括比喻，标语或旨在使某人沉默的材料;选民的压制或恐吓。
罗斯说，推特将寻求在政策中“主动”“减轻人们向我们报告的负担”。
除了在“喜欢”或共享之前在篡改的图像上显示警告标签外，Twitter还可以防止将其包含在推荐内容中，并且通常会提供其他信息以防止误解。
Twitter表示，新规定是基于对美国用户的调查以及来自世界各地使用推文的人们的反馈。
根据Achuthan和Roth的说法，在全球范围内，超过70%的发表过意见的Twitter用户表示，不对被滥用篡改的推文采取任何措施是不可接受的。