正如404 Media 最初报道的那样，Civita 是一个共享人工智能模型的在线市场，刚刚推出了一项名为“赏金”的新功能，以鼓励其社区开发真实人物的可通过的深度伪造品。谁发明了最好的人工智能模型，谁就可以获得一种名为“Buzz”的虚拟货币，用户可以用实际货币购买。
该网站上发布的许多赏金要求用户重现名人和社交媒体影响者的肖像，其中大多数是女性。该报告还指出，这些结果中的大部分是“未经同意的性图像”。这种事情多年来一直在互联网上扩散，但人工智能可以带来更现实的最终结果。此外， 404 Media发现了一些针对没有显着在线存在的私人的请求，这使得这更加令人毛骨悚然。
“我非常担心这会变成什么样子，”在 Civita 上有悬赏金的 Instagram 网红米歇尔·阿尔维斯 (Michele Alves) 告诉404 Media 。 “我不知道我可以采取什么措施，因为互联网似乎是一个失控的地方。”
根据市场公司Andreessen Horowitz的数据，Civitai 是目前第七大最受欢迎的生成式人工智能平台。换句话说，这些赏金请求吸引了大量的眼球。 404 Media Moments 的工作人员只需要通过赏金请求发送给一个私人的图片，该个人的个人社交媒体帐户只有几个粉丝。发布赏金的人声称这是他的妻子，但她的社交媒体账户却另有说法。总的。
一名 Civita 用户拒绝了赏金，理由是“要求将来出现法律问题”。为此，弗吉尼亚州刚刚更新了色情报复法，对“deekfake”创作者处以最高一年的监禁。尽管如此，这个特殊的请求还是得到了满足，并且一些图像被上传到该网站，尽管它们本质上是非性的。
值得注意的是，很少有赏金请求会具体说明发帖人寻找性内容，并以含糊的语言表达请求。然而，有些人则全力以赴，使用“堕落的要求”等术语以及对女性乳房尺寸的评论。 Civita 则表示，这些赏金不应该被用来创建未经同意的人工智能生成的真实人物的性图像。
然而，公众人物的性图像和普通人的非性图像都是允许的。之后，只需将两者结合起来即可。 404 Media使用该公司的文本到图像工具“在几秒钟内”创建了未经同意的真人性图像。
本文最初发表在 Engadget 上：https://ift.tt/27DkmSj