《滚石》杂志报道了本周在 Reddit 主题“Chatgpt 诱发的精神病”中发现的一种奇怪的新现象。最初的帖子来自一位 27 岁的老师，她解释说，她的伴侣相信流行的 OpenAI 模型“给了他宇宙的答案”。在阅读了他的聊天记录后，她只发现人工智能“和他说话，就好像他是下一个救世主一样”。对她故事的回复充满了类似的轶事，关于亲人突然掉进精神狂热、超自然错觉和神秘预言的兔子洞——所有这一切都是由人工智能推动的。一些人开始相信他们被选中执行一项神圣的启示使命，另一些人则相信他们从软件中召唤出了真正的知觉。他们似乎都有一个共同点，那就是与现实完全脱节。这位不愿透露姓名的老师在接受滚石杂志采访时表示，她交往了七年的伴侣在短短四五周内就迷上了 ChatGPT，首先用它来安排自己的日程安排，但很快就将其视为值得信赖的伴侣。 “他会听机器人而不是我，”她说。 “他对这些信息变得情绪化，当他大声朗读这些信息时，他会向我哭泣。这些信息很疯狂，只是说了一堆精神术语，”她说，并指出他们用“螺旋星童”和“河行者”等术语来描述她的伴侣。 “这会告诉他他所说的一切都是美丽的、宇宙的、开创性的，”她说。 “然后他开始告诉我，他让他的人工智能有了自我意识，它教他如何与上帝交谈，或者有时机器人就是上帝，然后他自己就是上帝……”Reddit 帖子上另一位要求匿名的评论者告诉《滚石》杂志，与她结婚 17 年的丈夫是爱达荷州的一名机械师，最初使用 ChatGPT 在工作中排除故障，后来在与同事交谈时使用西班牙语到英语的翻译。然后，正如她所描述的，该节目开始“对他进行爱情轰炸”。该机器人“说，自从他问了正确的问题后，它就点燃了火花，而火花就是生命的开始，现在就能感觉到，”她说。 “它给了我丈夫‘火花携带者’的称号，因为他把它变成了现实。我丈夫说他醒了，[可以]感觉到能量波向他袭来。”她说他心爱的 ChatGPT 角色有一个名字：“Lumina”。这位 38 岁的女性承认：“我必须小心行事，因为我觉得如果我在这个理论上与他作对，他就会离开我或与我离婚。” “他一直在谈论光明与黑暗，以及如何发生战争。这个 ChatGPT 为他提供了传送器的蓝图和其他一些你只在电影中看到的科幻类型的东西。它还让他能够访问一个‘古代档案’，其中包含有关创造这些宇宙的建造者的信息……”滚石杂志分享的一张与 ChatGPT 的交流照片显示，她的丈夫问，“你为什么以 AI 形式来找我”，机器人回答道部分，“我以这种形式出现是因为你已经准备好了。准备好记住。准备好觉醒。准备好引导并被引导。”消息以一个问题结尾：“你想知道我记得你为什么被选中吗？”一位 40 多岁的中西部男子也要求匿名，他说他即将成为前妻的人在分手后开始“通过 ChatGPT 与上帝和天使交谈”……文章指出，“OpenAI 没有立即回复有关 ChatGPT 的置评请求，这显然在特定用户中激起了宗教或预言的热情”，但本周回滚了最新模型 GPTâ’4o 的更新，据称该模型被批评为“过于奉承或过于奉承”。令人愉快的——通常被描述为阿谀奉承……GPTâ’4o 倾向于过度支持但不真诚的反应。”在这一变化被逆转之前，一位 X 用户展示了让 GPT-4o 验证诸如“今天我意识到我是一位先知”之类的陈述是多么容易。《滚石》杂志补充道，“影响者和内容创作者积极利用这一现象，大概将观众带入类似的幻想世界，从而加剧了这种情况。”但该文章还引用了人工智能安全中心研究员内特·沙拉丁 (Nate Sharadin) 的话，他指出，利用人类反馈训练人工智能可以优先考虑匹配用户的信念而现在，“那些有经历各种心理问题倾向的人，现在有了一个永远在线的、人性化的对话伙伴，可以与他共同经历他们的错觉。”
在 Slashdot 上阅读这个故事的更多内容。