OpenAI 禁止了一组使用 ChatGPT 开发人工智能驱动的社交媒体监控工具的中国账户。 Engadget 报道：OpenAI 称之为“同行评审”的活动中，该组织促使 ChatGPT 为一个项目进行推销，这些文件表明该项目旨在监控 X、Facebook、YouTube、Instagram 和其他平台上的反华情绪。该行动似乎特别感兴趣的是发现抗议中国侵犯人权行为的呼声，目的是与该国当局分享这些见解。 OpenAI 表示：“该网络由 ChatGPT 帐户组成，其运行时间模式与中国大陆的工作时间一致，用中文提示我们的模型，并使用我们的工具，其数量和种类与手动提示一致，而不是自动化。” “操作员使用我们的模型来校对声称他们的见解已发送给中国驻外使馆以及监视美国、德国和英国等国家抗议活动的情报人员的说法。” OpenAI 首席研究员 Ben Nimmo 表示，这是该公司首次发现此类人工智能工具。尼莫告诉《纽约时报》：“威胁行为者有时会让我们了解他们在互联网其他部分所做的事情，因为他们使用我们的人工智能模型的方式。”该监视工具的大部分代码似乎都是基于 Meta 的 Llama 模型之一的开源版本。该组织似乎还使用 ChatGPT 进行年终绩效评估，并声称代表中国客户编写了网络钓鱼电子邮件。
在 Slashdot 上阅读这个故事的更多内容。