Facebook开发了一种检测和归因深度伪造的方法

Deepfakes 已经存在一段时间了，但最近它们变得如此逼真，以至于很难从合法视频中分辨出 Deepfake。对于那些可能不熟悉的人来说，deepfake 会利用名人的脸孔和声音，制作一段视频，让该人说或做他们从未真正做过的事情。在选举期间使用 Deepfakes 时，对许多人来说最令人担忧，因为它们可以通过让候选人看起来做过或说过他们从未真正做过的事情来影响选民。

Facebook宣布已与密歇根州立大学 (MSU) 的研究人员合作开发一种检测和处理深度伪造的方法。Facebook 表示，这项新技术依赖于逆向工程，逆向工程从单个 AI 生成的图像反向工作，以发现用于生成它的生成模型。深度伪造的大部分重点是检测以确定图像是真实的还是制造的。

Facebook 表示，除了检测 Deepfake 之外，研究人员还可以执行图像归因，确定使用什么特定的生成模型来生成 Deepfake。然而，图像归因的限制因素是大多数深度伪造是使用在训练期间未见过的模型创建的，并且在图像归因期间被简单地标记为由未知模型创建。

Facebook 和 MSU 的研究人员通过帮助根据其产生的深度伪造来推断有关特定生成模型的信息，进一步确定了图像归因。这项研究标志着第一次有可能在没有任何特定模型的先验知识的情况下识别用于创建 deepfake 的模型的属性。

新的模型解析技术使研究人员能够获得有关用于创建 deepfake 的模型的更多信息，并且在现实世界中特别有用。通常，致力于检测深度伪造的研究人员所拥有的唯一信息就是深度伪造本身。检测从同一 AR 模型生成的深度伪造的能力对于发现依赖于深度伪造的协同虚假信息或恶意攻击的实例非常有用。该系统首先通过指纹估计网络运行 deepfake 图像，揭示生成模型留下的细节。

这些指纹是由生成模型创建的图像上留下的独特图案，可用于识别图像的来源。该团队将一个假图像数据集与从 100 个公开可用的生成模型生成的 100,000 张合成图像放在一起。测试结果表明，新方法的性能优于过去的系统，并且该团队能够将指纹映射回原始图像内容。