在ChatGPT被控与多起自杀事件相关的诉讼后，OpenAI正在为ChatGPT推出更严格的安全措施。404 Media报道称：“ChatGPT现在会尝试猜测用户的年龄，在某些情况下可能会要求用户提供身份证件以验证其是否年满18岁。” 该公司在公告中表示：“我们知道这会对成年人的隐私造成损害，但我们相信这是值得的。” OpenAI首席执行官Sam Altman在X上表示：“我不指望每个人都会同意这些权衡，但鉴于存在冲突，解释我们的决策至关重要。” 报道摘自：OpenAI在9月初为ChatGPT引入了家长控制功能，但现在又引入了新的、更严格、更具侵入性的安全措施。除了尝试猜测或验证用户的年龄外，ChatGPT现在还将对使用该聊天机器人的青少年应用不同的规则。公告称：“例如，ChatGPT 将接受训练，在被要求时不会进行上述调情谈话，即使在创意写作环境中也不会参与有关自杀或自残的讨论。” “此外，如果未满 18 岁的用户有自杀意念，我们将尝试联系用户的父母，如果联系不上，我们将在即将发生伤害时联系当局。” OpenAI 的帖子解释说，它正在努力解决大型语言模型的一个固有问题，404 Media 已经跟踪了这个问题好几年。ChatGPT 曾经是一个限制性更强的聊天机器人，它会拒绝与用户讨论该公司认为危险或不合适的各种问题。来自其他模型的竞争，尤其是本地托管和所谓的“未经审查”的模型，以及政治右倾化，将许多形式的内容审核视为审查，促使 OpenAI 放松了这些限制。Open AI 在公告中表示：“我们希望用户能够在非常广泛的安全范围内，以他们想要的方式使用我们的工具。”鉴于最近有关青少年自杀的报道，该公司似乎采取的立场是，“我们内部是这样谈论这个问题的：‘把我们的成年用户当成成年人来对待’，在不造成伤害或损害任何人自由的情况下，尽可能地扩大自由。”
在 Slashdot 上阅读更多内容。