谷歌已禁止在其 Google Colaboratory 平台上训练可用于生成 deepfakes 的 AI 系统。周末由 BleepingComputer 发现的更新的使用条款将与 deepfakes 相关的工作包括在不允许的项目列表中。
Colaboratory，或简称 Colab，于 2017 年底从内部谷歌研究项目中分离出来。它旨在允许任何人通过网络浏览器编写和执行任意 Python 代码，特别是用于机器学习、教育和数据分析的代码。为此，谷歌向 Colab 用户提供免费和付费的硬件访问权限，包括 GPU 和谷歌定制设计的人工智能加速张量处理单元 (TPU)。
近年来，Colab 已成为 AI 研究社区中事实上的演示平台。编写代码的研究人员在托管代码的 GitHub 存储库上或旁边包含指向 Colab 页面的链接并不少见。但在 Colab 内容方面，谷歌历来并没有非常严格的限制，这可能会为希望将服务用于不那么严格的目的的演员打开大门。
上周，开源 deepfake 生成器 DeepFaceLab 的用户意识到使用条款发生了变化，当时有几个用户在尝试在 Colab 中运行 DeepFaceLab 后收到错误消息。警告内容如下：“您可能正在执行不允许的代码，这可能会限制您将来使用 Colab 的能力。请注意我们的常见问题解答中指定的禁止行为。”
并非所有代码都会触发警告。这位记者能够毫无问题地运行其中一个更受欢迎的 deepfake Colab 项目， Reddit 用户报告说，另一个领先的项目 FaceSwap 仍然可以正常运行。这表明强制执行是基于黑名单而不是基于关键字的，并且 Colab 社区将有责任报告违反新规则的代码。
Archive.org 数据显示，谷歌在 5 月中旬的某个时候对 Colab 条款进行了相当大的更新。之前对运行拒绝服务攻击、密码破解和下载种子的限制保持不变。
Deepfake 有多种形式，但最常见的一种是视频，其中一个人的脸被令人信服地粘贴在另一张脸上。与过去粗糙的 Photoshop 工作不同，在某些情况下，AI 生成的 deepfakes 可以比好莱坞制作的 CGI 更好地匹配一个人的身体动作、微表情和肤色。
正如无数病毒视频所显示的那样，Deepfake 可能是无害的——甚至是有趣的。但黑客越来越多地使用它们来针对社交媒体用户进行勒索和欺诈计划。更可恶的是，它们被用于政治宣传，例如制作乌克兰总统泽连斯基就乌克兰战争发表演讲的视频，但他从未真正发表过演讲。
据一位消息人士称，从 2019 年到 2021 年，在线深度伪造的数量从大约 14,000 个增长到 145,000 个。 Forrester Research 在 2019 年 10 月估计，到 2020 年底，deepfake 欺诈诈骗的成本将达到 2.5 亿美元。
西雅图大学的兼职教授 Os Keyes 对谷歌禁止 Colab 的 deepfake 项目的举动表示赞赏。但他指出，必须在政策方面做更多工作，以防止它们的产生和传播。
“这样做的方式无疑凸显了依赖公司自我监管的贫困，”凯斯通过电子邮件告诉 TechCrunch。 “Deepfake 生成绝对不应该是一种可接受的工作形式，嗯，在任何地方，所以谷歌没有让自己参与其中是件好事……缺乏对这类开发平台（和公司）负责的、响应迅速的监管。”
其他人，尤其是那些从 Colab 之前放任自流的治理方式中受益的人，可能不同意。多年前，人工智能研究实验室 OpenAI 最初拒绝开源一种语言生成模型 GPT-2，因为担心它会被滥用。这促使像EleutherAI这样的团体利用包括 Colab 在内的工具来开发和发布他们自己的语言生成模型，表面上是为了研究。
去年，当我与 EleutherAI 的成员 Connor Leahy 交谈时，他断言 AI 模型的商品化是“令人信服的数字内容”的生产价格下降的“必然趋势”的一部分，而且不会脱轨代码是否发布。在他看来，人工智能模型和工具应该被广泛使用，以便“资源匮乏”的用户，尤其是学者，能够获得更好的研究，并对其进行以安全为重点的研究。
我们已询问 Google 是否计划对新的 deepfake 研究政策进行例外处理。如果我们收到回复，我们会更新这篇文章。