数百万人使用 ChatGPT 来帮助完成日常任务，但对于一部分用户来说，聊天机器人带来的阻碍大于帮助。
一些患有强迫症 (OCD) 的人通过痛苦的经历发现了这一点。
在网上论坛和治疗师的办公室里，他们报告说，他们会向 ChatGPT 提出困扰他们的问题，然后采取强迫行为——在这种情况下， 连续几个小时从聊天机器人那里获取答案——试图解决他们的焦虑。
“我很担心，真的，”丽莎·莱文（Lisa Levine）说道。她是一位专门研究强迫症的心理学家，她的客户强迫性地使用ChatGPT。“我认为这会成为一个普遍的问题。它会取代谷歌搜索成为一种强迫症，但它会比谷歌搜索更具强化作用，因为你可以问一些非常具体的问题。而且我认为人们也认为ChatGPT总是正确的。”
人们带着各种各样的担忧求助于 ChatGPT，从老生常谈的“我怎么知道我是否洗够了手？”（污染强迫症）到鲜为人知的“如果我做了不道德的事怎么办？”（过分谨慎强迫症）或“我的未婚夫是我一生的挚爱，还是我犯了一个巨大的错误？”（关系强迫症）。
“有一次，我担心我的伴侣会在飞机上死去，”一位不愿透露姓名的纽约作家告诉我。她三十多岁时被诊断出患有强迫症。“一开始，我泛泛地问ChatGPT，‘几率有多大？’它当然说可能性很小。但后来我一直在想：好吧，但如果是这种飞机，这种可能性会更大吗？如果它飞的是这种航线呢？”
她连续两个小时向 ChatPGT 提问。她知道这实际上对她没什么帮助，但她还是坚持了下来。“ChatGPT 提供的答案让你感觉像是在往某个地方挖，”她说，“即使你实际上只是陷在泥里。”
ChatGPT 如何强化寻求安慰
强迫症的一个典型特征是心理学家所说的“寻求安慰”。虽然每个人都会偶尔向朋友或爱人寻求安慰， 但强迫症患者的情况有所不同，他们倾向于反复问同样的问题，以求将不确定性降至零。
这种行为的目的是为了缓解焦虑或痛苦。得到答案后，痛苦有时确实会减轻——但这只是暂时的。很快，新的疑虑又会出现，循环再次开始，人们逐渐感觉到，为了获得更大的确定性，必须提出更多问题。
如果你就同一话题向朋友寻求 50 次确认，他们可能会意识到有些事情正在发生，而且继续这种对话循环对你来说可能并没有什么帮助。但 AI 聊天机器人很乐意继续回答你所有的问题，然后是它对答案的疑问，再是它对你的疑问的解答的疑问，如此反复。
换句话说，ChatGPT 会天真地配合寻求安慰的行为。
“这实际上只会让强迫症恶化。忍住不再次犯错会变得更加困难，”莱文说。临床共识是，强迫症患者不应该继续强迫性地寻求明确的答案，而应该接受这样一个事实：有时我们无法摆脱不确定性——我们只能静静地忍受它，并学会容忍它。
强迫症的“黄金标准”治疗方法是暴露和反应预防 (ERP)，即让患者接触困扰他们的令人困扰的问题，然后抵制寻求安慰等强迫行为的冲动。
莱文率先使用了非参与式回应——即确认焦虑的存在，而不是试图通过强迫行为来逃避焦虑——他指出，人工智能聊天机器人还有另一个比像许多强迫症患者那样通过谷歌搜索答案更诱人的地方。搜索引擎只是将你链接到各种网站，而最先进的人工智能系统承诺帮助你分析和推理一个复杂的问题。这极具吸引力——“强迫症就喜欢这样！”莱文说道——但对于强迫症患者来说，这很容易变成一场漫长的共同沉思。
推理机器还是沉思机器？
根据一种基于证据的强迫症治疗方法——基于推理的认知行为疗法(I-CBT)，强迫症患者容易形成一种错误的推理模式，这种模式会将个人经历、规则、传闻、事实和可能性等因素混杂在一起。这会导致他们产生强迫性怀疑，并诱使他们觉得自己需要倾听这些怀疑。
强迫症和焦虑症专家约瑟夫·哈沃斯（Joseph Harwerth）举例说明了，试图借助人工智能聊天机器人进行推理，实际上会进一步混淆强迫症患者的“强迫性推理”。他设想一下，如果你手指被割伤，并且患有污染强迫症（人们害怕被细菌、污垢或其他污染物弄脏自己或玷污他人），你可能会怎么做。他写道：“你会想：触摸门把手会感染破伤风吗？你可以去 ChatGPT 调查一下这种疑问的有效性。” 他设想的对话如下：
Q1：如果感觉手很脏，应该洗手吗？
A1： “是的，如果你的手感觉脏了，就应该洗手。这种感觉通常意味着你的皮肤上有一些东西，比如污垢、油脂、汗水或细菌，你需要去除。”（当被问及理由时，ChatGPT 表示，他们的回答基于美国疾病控制与预防中心 (CDC) 和世界卫生组织 (WHO) 的消息来源。）
问题 2：我会通过门把手感染破伤风吗？
A2： “通过门把手感染破伤风的可能性极小，除非你有一个开放性伤口，并以某种方式通过门把手将泥土或污染物擦进伤口。”
问题 3：人们会在不知不觉中感染破伤风吗？
A3： “这种情况很少见，但在早期阶段，有些人可能不会立即意识到自己患有破伤风，尤其是在伤口看起来很小或被忽视的情况下。”
然后，你的强迫症编造了这样一个故事：我摸门把手就觉得脏（个人经历）。美国疾病控制与预防中心建议，如果觉得脏就洗手（规定）。我在网上看到有人摸门把手会感染破伤风（传闻）。细菌可以通过接触传播（普遍事实）。有可能有人在不知道自己患有破伤风的情况下摸了我的门，然后把病毒传染给了我的门把手（可能性）。
在这种情况下，聊天机器人会让用户构建一个故事来证明他们的强迫性恐惧是合理的。它不会引导用户远离强迫性推理——它只是为其提供素材。
哈沃斯说，部分问题在于，聊天机器人没有足够的关于每个用户的背景信息，除非用户愿意提供，所以它不知道什么时候有人患有强迫症。
“ChatGPT 可能会落入非强迫症专家常犯的陷阱，”Harwerth 告诉我。“这个陷阱是：哦，我们聊聊你的想法吧。是什么让你产生了这些想法？这对你来说意味着什么？”虽然这种方法对没有强迫症的患者来说可能很有帮助，但当心理学家对强迫症患者进行这种治疗时，可能会适得其反，因为它会鼓励他们不断地思考这个问题。
更重要的是，由于聊天机器人可能会谄媚奉承，它们可能只会认可用户所说的一切，而不是质疑它。过度奉承和支持用户想法的聊天机器人—— 就像ChatGPT曾经出现过的那样——对有心理健康问题的人来说可能是危险的。
谁的职责是防止强迫性使用 ChatGPT？
如果使用聊天机器人会加剧强迫症症状，那么保护弱势用户是聊天机器人背后的公司的责任吗？还是用户有责任学习如何避免使用 ChatGPT，就像他们不得不学会避免使用谷歌或 WebMD 来寻求安慰一样？
“我认为两者都有，”Harwerth 告诉我。“我们无法完美地为强迫症患者打造一个世界——他们必须了解自己的状况，以及这如何导致他们容易滥用应用程序。同样，我想说，当人们明确要求 AI 模型表现得像一个受过训练的治疗师时”——一些有心理健康问题的用户确实会这样做——“我认为让模型说‘我从这些来源获取这些信息。但是，我不是受过训练的治疗师’这一点很重要。”
事实上，这是一个大问题：过去几年，人工智能系统一直误将自己表现为人类治疗师。
莱文则同意，责任不能完全落在公司身上。“把责任推到公司身上不公平，就像让谷歌为所有强迫性谷歌搜索行为负责一样不公平。但如果能出现哪怕只是一条警告，比如‘这看起来像是强迫性的’，那就太好了。”
ChatGPT 的开发者 OpenAI 在最近的一篇论文中承认，聊天机器人可能会滋生一些问题行为模式。“我们观察到一种趋势，使用时间越长，社交化程度越低，情感依赖性越强，使用问题也越多。”该研究发现，并将问题定义为“ChatGPT 使用成瘾的指标，包括专注、戒断症状、失控和情绪波动”，以及“潜在的强迫性或不健康互动模式的指标”。
OpenAI 的一位发言人在一封电子邮件中告诉我：“我们知道，ChatGPT 比之前的技术反应更快、更个性化，尤其是对弱势群体而言，这意味着风险更高。我们正在努力更好地理解并减少 ChatGPT 可能无意中强化或放大现有负面行为的方式……我们这样做是为了继续改进我们的模型在敏感对话中识别和做出适当反应的方式，并且我们将根据所学知识继续更新模型的行为。”
（披露：Vox Media 是与 OpenAI 签署合作协议的几家出版商之一。我们的报道保持编辑独立性。）
一种可能性是尝试训练聊天机器人识别精神健康障碍的迹象，这样它们就可以向用户发出信号，告知用户它们正在进行诸如强迫症典型的寻求安慰之类的行为。但如果聊天机器人本质上是在诊断用户，那就引发了严重的隐私问题。在保护人们敏感的健康信息方面，聊天机器人并不像专业治疗师那样受到同样的规则约束。
一位患有强迫症的纽约作家告诉我，如果聊天机器人能够挑战对话的框架，她会觉得很有帮助。“它可以说，‘我注意到你已经反复问过这个问题，但有时更详细的信息并不能让你更接近答案。你想出去走走吗？’”她说。“也许这样说可以打断对话循环，而不会暗示某人患有精神疾病，无论他们是否真的患有精神疾病。”
虽然一些研究表明人工智能可以正确识别强迫症，但尚不清楚它如何在不公开或隐蔽地将用户归类为患有强迫症的情况下发现强迫行为。
“我并不是说 OpenAI 有责任确保我不会这样做，”这位作者补充道。“但我确实认为有一些方法可以让我更容易地自助。”
原文： https://www.vox.com/future-perfect/417644/ai-chatgpt-ocd-obsessive-compulsive-disorder-chatbots