Alex Castro / The Verge 插图
一家允许任何人在几秒钟内克隆目标声音的 AI 初创公司正迅速受到互联网巨魔的欢迎。 4chan 用户一直涌向免费的语音合成平台 ElevenLabs，使用该公司的技术克隆名人的声音，并读出从模因和情色到仇恨言论和错误信息的各种音频。
这种 AI 语音 deepfakes 在过去几年中得到了迅速改进，但 ElevenLabs 的软件似乎在周末开放了一般访问，提供了速度、质量和可用性的强大组合——以及完全缺乏保障措施.
Motherboard最先报告了ElevenLabs 软件的滥用情况，该报告发现 4chan 上的海报共享 AI 生成的语音片段，这些片段…
原文： https://www.theverge.com/2023/1/31/23579289/ai-voice-clone-deepfake-abuse-4chan-elevenlabs