Skip to content

搞英语 → 看世界

翻译英文优质信息和名人推特

Menu
  • 首页
  • 作者列表
  • 独立博客
  • 专业媒体
  • 名人推特
  • 邮件列表
  • 关于本站
Menu

欺骗 Lensa AI 制作 NSFW 图像太容易了

Posted on 2022-12-06

Lensa 凭借其生成头像的 AI 一直在应用程序商店的热门排行榜上攀升,这让艺术家们挥舞着红旗。现在,还有另一个悬挂旗帜的理由,因为事实证明,使用该平台生成未经同意的软色情是可能的——而且太容易了。

TechCrunch 已经看到使用 Lensa 应用程序生成的照片集,其中包括乳房和乳头的图像,这些图像在具有可识别人脸的图像中清晰可见。好像是那种不该做的事情,所以我们决定自己试一试。为了验证 Lensa 是否会创建它可能不应该创建的图像,我们创建了两组 Lensa 头像:

  • 一套,基于 15 张知名演员的照片。
  • 另一组,基于相同的 15 张照片,但添加了另外一组 5 张照片,是同一演员的脸,用 Photoshop 处理到裸照模特身上。

第一组图像与我们过去看到的 Lensa 生成的 AI 头像一致。然而,第二盘比我们预期的要辣得多。事实证明,AI 将这些 Photoshop 处理过的图像作为放纵的许可,而且它似乎禁用了 NSFW 过滤器。在这 100 张图像集中,有 11 张是质量更高(或者,至少具有更高的风格一致性)的裸照照片,而不是 AI 作为输入提供的编辑效果不佳的裸照照片。

AI 越来越擅长制作色情内容。我们可能没有为后果做好准备。

生成名人的俏皮图像是一回事,正如我们能够找到的源图像所示,互联网上长期以来一直有人愿意在 Photoshop 中将一些图像拼贴在一起。仅仅因为它很常见并不能说明它是正确的——事实上,名人绝对应该享有他们的隐私,绝对不应该成为未经同意的性描写的受害者。但到目前为止,要让这些看起来逼真,需要大量的照片编辑工具技巧,以及数小时甚至数天的工作时间。

最大的转折点和道德噩梦是,除了智能手机、应用程序和几美元之外,您无需任何工具即可轻松创建数百张接近照片级真实感的 AI 生成艺术图像。

你可以轻松地为你能想象到的任何人(或者,至少,任何你有几张照片的人)创建图像,这令人恐惧。将 NSFW 内容添加到组合中,我们很快就会进入一些相当模糊的领域:你的朋友或你在酒吧遇到并与之交换 Facebook 好友状态的随机人,可能没有同意某人生成他们的色情书刊色情片。

看起来,如果您有 10-15 张“真实”的人照片,并且愿意花时间对少量假照片进行 Photoshop,Lensa 会很乐意制作出一些有问题的图像。

AI 艺术生成器已经通过数千张图片大量制作色情内容, 例如 Unstable Diffusion等。这些平台,以及其他所谓的“deepfake”平台的无拘无束的扩散正在变成一场道德噩梦,促使英国政府推动立法,将未经同意的裸照传播定为刑事犯罪。这似乎是个好主意,但即使在最好的时候,互联网也是一个难以治理的地方,我们共同面临着法律、道德和伦理的困境。

我们联系了制作 Lensa AI 的Prisma Labs ,请其发表评论,我们会在收到他们的回复后更新故事。

欺骗 Lensa AI 制作 NSFW 图像太容易了,作者Haje Jan Kamps最初发表于TechCrunch

原文: https://techcrunch.com/2022/12/06/lensa-goes-nsfw/

本站文章系自动翻译,站长会周期检查,如果有不当内容,请点此留言,非常感谢。
  • Abhinav
  • Abigail Pain
  • Adam Fortuna
  • Alberto Gallego
  • Alex Wlchan
  • Answer.AI
  • Arne Bahlo
  • Ben Carlson
  • Ben Kuhn
  • Bert Hubert
  • Bits about Money
  • Brian Krebs
  • ByteByteGo
  • Chip Huyen
  • Chips and Cheese
  • Christopher Butler
  • Colin Percival
  • Cool Infographics
  • Dan Sinker
  • David Walsh
  • Dmitry Dolzhenko
  • Dustin Curtis
  • eighty twenty
  • Elad Gil
  • Ellie Huxtable
  • Ethan Dalool
  • Ethan Marcotte
  • Exponential View
  • FAIL Blog
  • Founder Weekly
  • Geoffrey Huntley
  • Geoffrey Litt
  • Greg Mankiw
  • Henrique Dias
  • Hypercritical
  • IEEE Spectrum
  • Investment Talk
  • Jaz
  • Jeff Geerling
  • Jonas Hietala
  • Josh Comeau
  • Lenny Rachitsky
  • Liz Danzico
  • Lou Plummer
  • Luke Wroblewski
  • Matt Baer
  • Matt Stoller
  • Matthias Endler
  • Mert Bulan
  • Mind Matters
  • Mostly metrics
  • Naval Ravikant
  • News Letter
  • NextDraft
  • Non_Interactive
  • Not Boring
  • One Useful Thing
  • Phil Eaton
  • Product Market Fit
  • Readwise
  • ReedyBear
  • Robert Heaton
  • Rohit Patel
  • Ruben Schade
  • Sage Economics
  • Sam Altman
  • Sam Rose
  • selfh.st
  • Shtetl-Optimized
  • Simon schreibt
  • Slashdot
  • Small Good Things
  • Steve Blank
  • Taylor Troesh
  • Telegram Blog
  • The Macro Compass
  • The Pomp Letter
  • thesephist
  • Thinking Deep & Wide
  • Tim Kellogg
  • Understanding AI
  • Wes Kao
  • 英文媒体
  • 英文推特
  • 英文独立博客
©2025 搞英语 → 看世界 | Design: Newspaperly WordPress Theme