Facebook，微软和其他公司发起Deepfake检测挑战赛

 
Deepfake，或将人带入现有图像，音频记录或视频，并使用AI算法将其替换为别人的肖像的媒体，正在迅速发展。总部位于阿姆斯特丹的网络安全创业公司Deeptrace在6月和7月的最新统计中发现了14698个互联网上的Deepfake视频，高于去年12月的7964个，而在七个月内增长了84%。这很麻烦，不仅是因为假冒伪劣品可能会在选举中被用来影响公众舆论，或者将某人卷入他们未曾犯下的罪行中，而且还因为该技术已经产生了色情材料并使数以亿计的公司陷于瘫痪。美元。
为了与深造的传播作斗争，Facebook与Amazon Web Services(AWS)，微软，人工智能合作伙伴关系，微软以及来自康奈尔科技大学，麻省理工学院，牛津大学，加州大学伯克利分校的学者一起;马里兰大学学院公园分校;和纽约州立大学奥尔巴尼分校-共同领导了9月宣布的Deepfake检测挑战赛。它将于本周在温哥华举行的NeurIPS 2019会议上全球启动，目的是促进研究以确保开发开源检测工具。
Facebook已经投入了超过1000万美元来鼓励参加比赛。就其本身而言，AWS将提供高达100万美元的服务信用，并提供托管人选择的模型(如果他们愿意的话)，而Google的Kaggle数据科学和机器学习平台既托管挑战，又提供排行榜。
Facebook首席技术官Mike Schroepfer在一篇博客文章中指出：““ Deepfake”技术可显示AI生成的真实视频，这些视频是由真实的人在做并说虚构的事情的AI产生的，这对于确定在线提供的信息的合法性具有重要意义。 “然而，该行业并没有很好的数据集或基准来检测它们。 [希望]产生一种技术，每个人都可以使用它来更好地检测何时使用AI更改视频以误导观众。
如前所述，Deepfake检测挑战赛包括一个数据集，以及拨款和奖励，以刺激创建检测和预防AI操纵的媒体的新方法。迄今为止，已经发布了多种工具，其中包括由加利福尼亚大学伯克利分校和南加州大学的研究人员开发的一种工具，该工具可以识别出90%以上的准确度的操纵视频，而深造假货是一个移动的目标。 Pinscreen首席执行官郝​​力在最近接受The Verge的采访中指出，合成技术在不断发展，以至于在某个时候几乎不可能将AI假货与现实区分开。
Deepfake Detection Challenge的组织者保留了一家供应商的服务，该供应商雇用了一组“多样化”的演员(大约54%的女性和46%的男性)来制作视频，描绘各种场景，姿势和背景下的真实场景，附带的标签，说明它们是否被AI操纵。之后，使用一系列机器学习技术，基于原始素材的子集创建了被篡改的视频。换了脸并从视频中进行了语音更改，并且对一些示例应用了增强功能，以近似估计在线共享视频中遇到的质量下降。
Facebook AI研究经理克里斯蒂安·费雷尔(Christian Ferrer)表示，该数据集(总共包含100,000多个视频)在10月的国际计算机视觉会议上通过有针对性的技术工作会议进行了测试。它不包含任何用户数据，并且仅包含已签订使用协议的参与者，以避免可能妨碍研究的限制。另外，费雷尔说，对数据集的访问受到限制，以便只有同意许可的团队才能访问它。
“确保可以使用前沿研究来检测深造品，这取决于大规模，接近真实性，有用且可免费获得的数据集。由于该资源不存在，因此我们必须从头开始创建它。”他补充说。
从今天开始，注册的竞争对手可以下载语料库，以训练检测深层仿冒的AI模型。完成设计后，他们将代码提交到黑匣子验证环境中，该环境承载着一种机制，可以根据测试集对模型的有效性进行评分。参赛者无需共享模型即可参加，但他们必须同意开源其工作，才有资格获得挑战奖。无论如何，他们保留在培训数据集上接受培训的系统的权利。
Deepfake检测挑战赛由AI合作伙伴关系AI和媒体完整性指导委员会推动和监督，该委员会由Facebook，人权非营利组织Witness，微软等民间社会组织以及技术，媒体组成的联盟组成以及学术界。目前计划运行到2020年3月。
Facebook AI主管兼业务主管Irina Kofman说：“看到来自多个领域(包括行业，学术界，公民社会和媒体)的合作伙伴的承诺，以及他们如何在过去的几个月中共同创造挑战，这令人鼓舞。”应对挑战。 “每个人都带来了各自领域的见解，使我们能够考虑广泛的观点……通过将社区聚集在一起并促进协作，我们希望我们能够在这一领域加快进步。”
这项挑战的发布是在与Google内部技术孵化器Jigsaw合作生产的大型视觉化深层假冒发布之后，Jigsaw被纳入了可供研究人员免费使用的基准，用于合成视频检测系统开发。今年早些时候，作为AVspoof 2019竞赛的一部分，谷歌公开了一个语音数据集，其中包含该公司的文本语音转换模型所说的短语，以开发可区分真实语音和计算机生成语音的系统。
“我们知道，对于这些问题，不会有一个简单而确定的技术解决方案。不过，我有信心，一种开放的研究方法将帮助我们构建新的工具，以防止人们使用AI操纵视频来欺骗他人。” Facebook AI副总裁Jerome Pesenti说。