Skip to content

搞英语 → 看世界

翻译英文优质信息和名人推特

Menu
  • 首页
  • 作者列表
  • 独立博客
  • 专业媒体
  • 名人推特
  • 邮件列表
  • 关于本站
Menu

芝加哥大学研究人员试图用茄属植物“毒害”人工智能艺术生成器

Posted on 2023-10-26
机械臂持有危险化学品。

放大(图片来源: Getty Images )

据《麻省理工科技评论》和VentureBeat报道,周五,芝加哥大学的一组研究人员发布了一篇研究论文,概述了“Nightshade”,这是一种旨在破坏人工智能模型训练过程的数据中毒技术。目标是帮助视觉艺术家和出版商保护他们的作品不被用来训练生成式 AI 图像合成模型,例如Midjourney 、 DALL-E 3和Stable Diffusion 。

开源“毒丸”工具(芝加哥大学新闻部称之为)以人眼看不见的方式改变图像,从而破坏人工智能模型的训练过程。许多图像合成模型( Adobe和Getty Images的模型除外)主要使用未经艺术家许可从网络上抓取的图像数据集,其中包括受版权保护的材料。 (OpenAI 从 Shutterstock 获得了一些 DALL-E 训练图像的许可。)

人工智能研究人员对从网络上窃取的数据的依赖,被许多人认为存在道德问题,也是最近生成人工智能能力爆炸式增长的关键。例如,需要数百万人创建带有注释(通过标题、替代文本和元数据)的整个图像互联网来创建具有足够多样性的数据集来创建稳定扩​​散。从成本和时间的角度来看,雇用人员来注释数亿张图像是不切实际的。那些能够访问现有大型图像数据库(例如 Getty 和 Shutterstock)的人在使用许可的训练数据时具有优势。

阅读剩余 10 段|评论

原文: https://arstechnica.com/?p=1978501

本站文章系自动翻译,站长会周期检查,如果有不当内容,请点此留言,非常感谢。
  • Abhinav
  • Abigail Pain
  • Adam Fortuna
  • Alberto Gallego
  • Alex Wlchan
  • Answer.AI
  • Arne Bahlo
  • Ben Carlson
  • Ben Kuhn
  • Bert Hubert
  • Bits about Money
  • Brian Krebs
  • ByteByteGo
  • Chip Huyen
  • Chips and Cheese
  • Christopher Butler
  • Colin Percival
  • Cool Infographics
  • Dan Sinker
  • David Walsh
  • Dmitry Dolzhenko
  • Dustin Curtis
  • eighty twenty
  • Elad Gil
  • Ellie Huxtable
  • Ethan Dalool
  • Ethan Marcotte
  • Exponential View
  • FAIL Blog
  • Founder Weekly
  • Geoffrey Huntley
  • Geoffrey Litt
  • Greg Mankiw
  • Henrique Dias
  • Hypercritical
  • IEEE Spectrum
  • Investment Talk
  • Jaz
  • Jeff Geerling
  • Jonas Hietala
  • Josh Comeau
  • Lenny Rachitsky
  • Liz Danzico
  • Lou Plummer
  • Luke Wroblewski
  • Matt Baer
  • Matt Stoller
  • Matthias Endler
  • Mert Bulan
  • Mind Matters
  • Mostly metrics
  • Naval Ravikant
  • News Letter
  • NextDraft
  • Non_Interactive
  • Not Boring
  • One Useful Thing
  • Phil Eaton
  • Product Market Fit
  • Readwise
  • ReedyBear
  • Robert Heaton
  • Rohit Patel
  • Ruben Schade
  • Sage Economics
  • Sam Altman
  • Sam Rose
  • selfh.st
  • Shtetl-Optimized
  • Simon schreibt
  • Slashdot
  • Small Good Things
  • Steve Blank
  • Taylor Troesh
  • Telegram Blog
  • The Macro Compass
  • The Pomp Letter
  • thesephist
  • Thinking Deep & Wide
  • Tim Kellogg
  • Understanding AI
  • Wes Kao
  • 英文媒体
  • 英文推特
  • 英文独立博客
©2025 搞英语 → 看世界 | Design: Newspaperly WordPress Theme