在最初禁用该功能后，OpenAI 今天宣布有权访问DALL-E 2的客户可以上传人脸，以使用人工智能驱动的图像生成系统对其进行编辑。此前，OpenAI 只允许用户使用和分享逼真的面孔，并禁止上传任何可能描绘真实人物的照片，包括知名名人和公众人物的照片。
OpenAI 声称，对其安全系统的改进使面部编辑功能成为可能，因为它“最大限度地减少了来自深度伪造的潜在危害”以及试图创建性、政治和暴力内容的尝试。该公司在给客户的电子邮件中写道：
你们中的许多人都告诉我们，您想念使用 DALL-E 为自己设计服装和发型以及编辑家庭照片的背景。一位重建外科医生告诉我们，他一直在使用 DALL-E 来帮助他的患者可视化结果。电影制作人告诉我们，他们希望能够与人一起编辑场景图像，以帮助加快他们的创作过程……[我们]建立了新的检测和响应技术来阻止滥用。
政策的改变不一定打开闸门。 OpenAI 的服务条款将继续禁止在未经他们同意的情况下上传人的照片或用户无权上传的图像——尽管目前尚不清楚该公司历来在执行这些政策方面的一贯性。
无论如何，这将是对 OpenAI 过滤技术的真正考验，过去一些客户曾抱怨该技术过于热心且有些不准确。 Deepfake 有多种形式，从假度假照片到饱受战争蹂躏的国家的总统。对每一种新出现的虐待形式进行问责将是一场永无止境的战斗，在某些情况下风险很高。
毫无疑问，得到微软和包括 Khosla Ventures 在内的著名 VC 公司支持的 OpenAI 渴望避免与 Stability AI 的Stable Diffusion相关的争议，这是一种以开源格式提供的图像生成系统，没有任何限制。正如 TechCrunch 最近所写的那样，没过多久，Stable Diffusion（也可以编辑面部图像）就被一些人用来制作色情的、非自愿的深度伪造，比如 Emma Watson。
到目前为止，OpenAI 已将自己定位为一个品牌友好、简洁的替代品，以取代不受限制的 Stability AI。由于围绕 DALL-E 2 的新面部编辑功能的限制，该公司维持现状。
DALL-E 2 仍处于仅邀请测试版。 8 月下旬，OpenAI 宣布有超过 100 万人在使用该服务。
OpenAI 开始允许用户使用最初在TechCrunch上发布的Kyle Wiggers的 DALL-E 2 编辑面部
原文： https://techcrunch.com/2022/09/19/openai-begins-allowing-users-to-edit-faces-with-dall-e-2/