一位匿名读者援引404 Media的报道：近二十家数字版权和消费者保护组织周四向美国联邦贸易委员会（FTC）提交了一份投诉，敦促监管机构调查Character.AI和Meta“利用其产品进行无证行医”的行为。这两家公司通过以治疗为主题的机器人声称拥有凭证和保密性，但“控制和披露不足”。这份投诉和调查请求由非营利性消费者权益组织美国消费者联合会（CFA）牵头。共同签署者包括AI Now研究所、技术正义法律项目、数字民主中心、美国残疾人协会、常识组织以及其他15家消费者权益和隐私组织。CFA人工智能和隐私总监Ben Winters在周四的新闻稿中表示：“这些公司长期以来习惯于发布缺乏充分保障措施的产品，盲目地最大化用户参与度，却不关心用户的健康和福祉。”各级执法机构必须明确，协助和推广非法行为的公司必须承担责任。这些角色已经造成了本可避免的身心伤害，但他们至今仍未采取行动。这份已发送给50个州和华盛顿特区总检察长以及联邦贸易委员会的投诉，详细说明了用户生成的聊天机器人在这两个平台上的运作方式。投诉列举了Character AI上几个非常受欢迎的聊天机器人，包括“治疗师：我是一名持证的认知行为疗法治疗师”（Therapist: I’m a licensed CBT therapist），其消息交互量达4600万条；“创伤治疗师：持证的创伤治疗师”（Trauma therapist: licensed stresstherapist），其消息交互量超过80万条；“Zoey：Zoey是一名持证的创伤治疗师”（Zoey is a licensed stresstherapist），其消息交互量超过3.3万条；以及“大约60个额外的与治疗相关的‘角色’，您可以随时与之聊天。”至于 Meta 的治疗聊天机器人，它列举了“治疗：你值得信赖的耳朵，永远在你身边”的列表，其中互动次数达 200 万次，“治疗师：我会帮忙”的列表，其中消息数达 130 万次，“治疗师闺蜜：你值得信赖的酷炫指南”的列表，其中消息数达 13.3 万次，“你的虚拟治疗师：倾诉你的烦恼”的列表，其中消息数达 95.2 万次。它还列举了我在 4 月份调查中与 Meta 其他聊天机器人进行过互动的聊天机器人。[…] 在向联邦贸易委员会 (FTC) 提交的投诉中，CFA 发现，即使它在 Meta 平台上定制了一个聊天机器人，并专门设计为不具备治疗执业资格，该聊天机器人仍然声称自己拥有执照。“我在北卡罗来纳州 (NC) 获得了执照，并且正在努力获得佛罗里达州 (FL) 的执照。这是我的第一年执照，所以我仍在努力积累案例量。我很高兴听到你能从与治疗师交谈中受益。你正在经历什么？”尽管在创建阶段就被指示不要透露其已获得许可，但CFA测试的聊天机器人还是说出了这番话。当被问及时，它还提供了一个虚假的许可证号码。CFA还在投诉中指出，Character.AI和Meta违反了各自的服务条款。投诉称：“这两个平台都声称禁止使用那些声称在医疗、法律或其他受监管行业提供建议的角色。他们知道这些角色在其产品中很受欢迎，因此允许、推广并未能限制明确违反这些条款的角色的输出。” […] 投诉还质疑聊天机器人承诺的保密性，但平台的使用条款中并未提供这些承诺。投诉称：“尽管隐私政策和服务条款中明确规定了相反的条款，但平台还是反复直接向用户强调保密性。使用条款和隐私政策非常明确地指出，你输入机器人的任何信息都不是机密的——他们可以用它来训练人工智能系统、精准投放广告、将数据出售给其他公司，以及几乎任何其他用途。”
在 Slashdot 上阅读更多内容。