一个红头发的女人站在月亮上，她的脸被遮住了。她赤裸的身体看起来像是属于荷尔蒙少年卧室墙上的海报——也就是说，直到你到达她的躯干，三只手臂从她的肩膀上吐出。
诸如Stable Diffusion之类的 AI 驱动系统将文本提示转换为图片，已被品牌和艺术家用于创建概念图像、屡获殊荣（尽管有争议）的印刷品和全面的营销活动。
但是一些用户，为了探索系统的阴暗面，一直在测试他们的另一种用例：色情。
AI 色情片和你想象的一样令人不安和不完美（月球上的红发可能不是由有额外手臂癖的人产生的）。但随着技术的不断改进，它将引发人工智能伦理学家和性工作者等具有挑战性的问题。
本月早些时候，使用最新图像生成系统创建的色情内容首次通过讨论板 4chan 和 Reddit 出现，此前 4chan 的一名成员在其正式发布之前泄露了开源稳定扩散系统。然后，上周，似乎是首批致力于高保真 AI 色情生成的网站之一。
该网站名为 Porn Pen，允许用户使用“宝贝”、“内衣模特”、“胖乎乎的”、种族（例如“俄罗斯人”和“拉丁”）和背景（例如“卧室”、“淋浴”和通配符，如“月亮”）。按钮从正面、背面或侧面捕捉模型，并更改生成照片的外观（例如“胶片照片”、“镜子自拍”）。不过，镜子自拍肯定有一个错误，因为在用户生成的图像的提要中，有些镜子实际上并没有反映一个人——但当然，这些模型根本不是人。 Porn Pen 的功能类似于“此人不存在”，只是它是 NSFW。
在 Y Combinator 的 Hacker News论坛上，一位自称是创作者的用户将 Porn Pen 描述为使用尖端文本到图像模型的“实验”。 “我明确删除了指定自定义文本的功能，以避免生成有害图像，”他们写道。 “一旦对即时工程算法进行进一步微调，就会添加新标签。”创作者没有回应 TechCrunch 的置评请求。
但 Porn Pen 提出了许多伦理问题，例如图像生成系统中的偏见以及它们产生的数据来源。除了技术影响之外，人们想知道创建定制色情片的新技术——假设它流行起来——是否会伤害以同样为生的成人内容创作者。
西雅图大学的博士生 Os Keyes 通过电子邮件告诉 TechCrunch：“我认为，当 [OpenAI 的] DALL-E 出现时，这在某种程度上是不可避免的。” “但选项和默认值如何复制非常异性恋和男性的凝视仍然令人沮丧。”
Ashley 是一名性工作者和同行组织者，负责处理涉及内容审核的案件，他认为 Porn Pen 生成的内容在当前状态下不会对性工作者构成威胁。
“那里有无穷无尽的媒体，”阿什利说，她不想公开自己的姓氏，因为担心工作会受到骚扰。 “但人们不仅通过制作最好的媒体来区分自己，而且还通过成为一个平易近人、有趣的人来区分自己。人工智能要取代它还需要很长时间。”
在 OnlyFans 和 ManyVids 等现有的可获利色情网站上，成人创作者必须验证他们的年龄和身份，以便公司知道他们是同意成年人。当然，人工智能生成的色情模型不能做到这一点，因为它们不是真实的。
不过，Ashley 担心，如果色情网站打击 AI 色情内容，可能会对性工作者造成更严厉的限制，因为他们已经面临SESTA/FOSTA等立法的更多监管。国会于 2019 年推出了《安全性工作者研究法》 ，以审查该立法的影响，这使得在线性工作变得更加困难。这项研究发现，在失去“访问在线平台所提供的经济稳定性”之后，“社区组织 [had] 报告了性工作者无家可归的增加”。
“SESTA 被出售为打击儿童性交易，但它制定了一项关于卖淫的新刑法，与年龄无关，”阿什利说。
目前，世界上很少有法律涉及深度伪造的色情内容。在美国，只有弗吉尼亚州和加利福尼亚州有法规限制某些使用伪造和深度伪造的色情媒体。
诸如稳定扩散之类的系统通过示例“学习”从文本中生成图像。输入数十亿张标有注释的图片，以表明其内容——例如，一张标有“腊肠犬，广角镜头”的狗的照片——系统学习特定的单词和短语指的是特定的艺术风格、美学、位置等.
这在实践中比较有效。像“梵高风格的鸟画”这样的提示可以预见会产生一幅描绘鸟的梵高式图像。但当提示含糊不清、涉及刻板印象或处理系统不熟悉的主题时，它会变得更加棘手。
例如，Porn Pen 有时会生成根本没有人的图像——可能是系统无法理解提示。其他时候，正如前面提到的，它展示了物理上不太可能的模型，通常有额外的四肢、不寻常的地方的乳头和扭曲的肉体。
“根据定义，[这些系统] 将代表那些身体在主流社会中被接受和重视的人，”凯斯说，并指出色情笔只为顺规范的人提供类别。 “例如，你最终会得到不成比例的大量女性，这对我来说并不奇怪。”
虽然稳定扩散（可能是 Porn Pen 的基础系统之一） 在其训练数据集中的“NSFW”图像相对较少，但 Redditors 和 4chan 用户的早期实验表明，它非常有能力生成名人的色情深度伪造（Porn Pen——也许并非巧合- 有一个“名人”选项）。而且因为它是开源的，所以没有什么可以阻止 Porn Pen 的创建者在其他裸照上对系统进行微调。
“产生现有人的[色情]绝对不是很好，”阿什利说。 “它可以用来骚扰他们。”
Deepfake 色情内容通常是为了威胁和骚扰人们而制作的。这些图像几乎都是在未经对象同意的情况下出于恶意而开发的。 2019 年，研究公司Sensity AI发现，网上 96% 的 deepfake 视频都是未经同意的色情内容。
作为 Knives and Paintbrushes 集体成员的 AI 研究员 Mike Cook 表示，该数据集有可能包括不同意以这种方式将其图像用于培训的人，包括性工作者。
“许多[训练数据中的裸体人]可能从制作色情或色情相关内容中获得收入，”库克说。 “就像优秀的艺术家、音乐家或记者一样，这些人制作的作品被用来创建系统，这些系统也削弱了他们未来谋生的能力。”
从理论上讲，色情演员可以使用版权保护、诽谤甚至人权法来对抗深度伪造图像的创建者。但正如麻省理工学院技术评论中的一篇文章所指出的那样，收集支持法律论点的证据可能是一项巨大的挑战。
几年前，当更原始的 AI 工具普及 deepfake 色情内容时，Wired 的一项调查发现，未经同意的 deepfake 视频在 Pornhub 等主流色情网站上获得了数百万的观看次数。其他 deepfake 作品在类似于 Porn Pen 的网站上占有一席之地——根据 Sensity 的数据，2018 年排名前四的 deepfake 色情网站的浏览量超过 1.34 亿次。
“人工智能图像合成现在是一种广泛且易于使用的技术，我认为没有人真正为这种无处不在的影响做好准备，”库克继续说道。 “在我看来，在过去的几年里，我们已经冲进了非常非常远的未知领域，几乎没有考虑到这项技术的影响。”
在库克看来，去年年底，最受欢迎的人工智能色情网站之一通过合作伙伴协议、推荐和 API 进行了扩展，允许托管数百个未经同意的深度伪造的服务在其支付基础设施的禁令中幸存下来。 2020 年，研究人员发现了一个 Telegram 机器人，它生成了超过 100,000 名女性（包括未成年女孩）的辱骂性深度伪造图像。
“我认为我们会看到更多的人在未来十年内测试技术和社会边界的极限，”库克说。 “我们必须为此承担一些责任，并努力教育人们了解他们所做的事情的后果。”