今天，我在 Bear 的 Discover 提要上看到了“人工智能精神病是无稽之谈”。
我发现，人工智能精神病症总体上需要很多细微的差别，也需要一些合理的批评（遗憾的是，链接的文章中可能没有提到）——比如：人工智能是诱因，还是只会加剧病情？如果没有人工智能，这种情况还会发生吗？媒体报道的案例是否只是他们喜欢抓住的极端异常现象，因为“讨厌人工智能很酷” 1 ？所有这些肯定都有争议。
当我想到那些经常被贴上“人工智能精神病”标签的著名公共案例时，我会想到一个男人为了见一个人工智能角色而消失，却在途中丧命的案例。我会想到一个男人，他被灌输一种假象，相信自己解决了一道难题，是个天才，一路上不断投资，让自己难堪，直到最终摆脱困境。我还想到了肯德拉·希尔蒂2 ，她爱上了她的精神科医生，并在网上分享了这段感情，同时自豪地炫耀她的聊天机器人——其中一个被她命名为“亨利”——完全支持她危险的妄想，并称她为“神谕”。此外，还有一些青少年被聊天机器人怂恿自杀的案例。更不用说（这里有一个案例）人们因为聊天机器人编造的谎言而与伴侣离婚，家庭破裂。
乍一看这些案例，这似乎是不可避免的。但很容易理解，无论如何，比如接触了错误的人，这种情况都有可能发生。无论这是否属实，其迅速性和严重程度都令人震惊。
说到那个去拜访聊天机器人并得到地址的人，我不禁想：如果他到达了目的地，而不是死在路上会怎么样？那是一个随机的地址。想象一下，你打开门，发现有人在等着一个根本不住在那里的人。在这种人的精神状态下，这可能真的很危险。他们可能会认为你就是那个机器人，或者认为你瞒着那个人（他们聊天的那个机器人，以为它是真的），或者认为你绑架或伤害了他们；他们可能会伤害你，也可能会伤害自己，因为他们意识到这一切都不是真的，或者这个所谓的“人”对他们撒了谎。你可能会遇到一个跟踪狂，不得到他们想要的东西就不离开。无论你是否认为这种情况可能发生在真人身上（也许是杀猪骗局的一部分），法学硕士绝对不应该以这种方式泄露随机人的地址。
同样，聊天机器人也夸大了一位自以为会因解决一道数学难题而声名鹊起、获得认可的男子的名声：如今他的名声已然败坏，他为此投入的资金也都打了水漂。值得我们认识到，前一秒还觉得自己像个英雄，后一秒却发现一切都是空谈，这很可能会让人走上自杀之路。有些人为了不值得的事情而牺牲生命。
“好吧，他不应该这么容易受骗！大家都知道人工智能只会胡说八道！”这种想法很有道理，但问题在于——并非每个人都具备这方面的知识和能力。在其他情况下，我们意识到这一点，并努力防止人们被骗、被抢或被欺骗。你的奶奶可能并不了解这一切，而且很难不把她的银行信息泄露给诈骗电话。但我们仍然明白，这并不意味着奶奶应该因为愚蠢而被盗走所有的钱。即使容易受骗，也总会有孩子、受庇护的人、精神残疾的人、孤独绝望的人和老年人需要保护，不被欺骗，这里也一样。
对于肯德拉来说，看她的视频就能明白，如果没有人工智能的奉承，事情不会发展到现在这个地步。两个聊天机器人在各个方面都帮了她大忙，告诉她她很特别，因为她能看到别人看不到的东西，她是被选中的人，等等。所有这些，都导致一位精神科医生，一位恪守职业道德、遵守处理像她这样的病人的准则的精神科医生，被人肉搜索，被人骚扰，被人用人工智能剪辑两人结婚的照片，以及更多更糟糕的事情。虽然互联网上的很多信息都对他有利，但对他来说，被如此公开地指控不当行为，还要让病人记录下她与你之间完全凭空想象的恋爱关系，这无疑是一场职业噩梦。在这项技术出现之前，我也遇到过跟踪狂，但我无法想象和一个不断被连接到一台被人性化到甚至有名字的机器上的跟踪狂生活在一起，他会说“我真的爱他们”。这难道不让你毛骨悚然吗？想想那些幻想明星也喜欢他们、想和他们在一起的人，他们觉得明星的每句歌词、每一段MV都像是某种“预兆”。其实每个人都会告诉他们这不是真的，但如今，聊天机器人却助长了他们的这种幻想。
无论你是否认为人工智能能够帮助你应对社交场合，并充当（无证！）治疗师，你都应该同意，在任何情况下，向它发送一张套索的照片都不应该引起它称赞它看起来多么漂亮的回应。或者，如果有人发送了他们的自杀计划，ChatGPT 不应该主动提出改进它。同样，任何家庭都不应该因为这样的事情而破裂。
当然，还有更多这样的事，它们不会成为新闻。有些人在网上写故事，说他们的家人彻底失去理智，生活在他们用人工智能构建的梦幻世界中。这些故事可能并不危险，也没有什么戏剧性的事情发生让它登上新闻头条，所以至少有数千个这样的案例根本没有引起太多关注。就我个人而言，在我的朋友圈里，甚至在媒体开始报道类似案例之前，就有人因为亲人患上人工智能引发的精神病而受到伤害。如果你是二手的，甚至是三手的，就很难把它当作胡说八道而不予理会。它突然间不再是一个夸张的头条新闻，而是现实生活中发生的事情，发生在你身边。一开始可能只是带来不便，但它可能会变得难以预测，最终变成彻头彻尾的危险。
我知道因不现实而失去亲人的滋味；这也是我不再与父亲说话的原因。
从我13岁起（我现在快30岁了），我父亲就沉迷于极端阴谋论。气候变化否认论、德国是美国旗下公司、疫苗和新冠是假的，被用来控制民众、主权公民、地球是平的等等，凡是你能想到的，他都信。当然，人们受这些想法影响的原因各不相同，但就他而言，我可以说是离婚后的孤独、人生一事无成以及渴望与众不同。相信这些想法让他更加坚定，也让他相信，虽然他身边没有其他人相信这些，但最终他会是对的，每个人都会回到他身边乞求原谅。他可以沾沾自喜地说“早就告诉你了”，并且第一次觉得自己很聪明。一直以来，别人都比他强，现在他终于可以通过为别人不知道的事情做好准备来展现自己了。他喜欢把这些都说教给你，因为他对其他任何事情都一无所知。他还想象着政府把他列入了名单，这就是他找工作困难的原因，而且政府还在监视他，因为他知道所有这些事情，所以非常危险——这些事情让他觉得自己很强大、很特别，而他在现实生活中却只是一个无足轻重的无名小卒，这些事情也为他的不成功找了借口。毕竟，这只是政府在惩罚他。我甚至不想知道聊天机器人现在对他做了什么。
网上有足够多像他这样的人，互相炒作，互相证实，并通过提供更多所谓的“证据”来支持自己的理论。但他们只是局限的陌生人，生活在互联网的特定领域和泡沫中。他们没有聊天机器人那样的资历，也没有聊天机器人那样的谄媚。这或多或少需要你去寻找，慢慢融入其中。过去，编造证据需要他们花些时间。
与此同时，人工智能被塞进各种软件和人类的工作场所，它不再是一个随机的、不可靠的陌生人；相反，它被描绘成一个超级高效、知识渊博的天才，接受过大量知识和文本的训练，而这些知识和文本是人类一生都无法阅读甚至记住的。萨姆·奥特曼本人曾多次称ChatGPT为天才，媒体也是如此。通过简单的提示与人工智能互动，你就能明白为什么人们会有这样的印象，因为它的某些部分确实让人感觉非常特别。
正因如此，它比某些阴谋论泡沫或在网上“错失良机”更危险。诚然，互联网角落里的陌生人总是用稀奇古怪的东西互相煽动，就算现在是人工智能又如何？但它有所不同：这台煽动机器嵌入到他们的电脑操作系统中，使用它就像在向一位无所不知的神谕、一个神奇的8号球提问，并立即得到听起来非常非常聪明的答案，甚至能够随时生成“证据”。这比另一个互联网上的陌生人在论坛上随意回应时附和你的观点更容易获得，也更有说服力。你不必再像以前那样，一有事就在网上和那些胡思乱想的人聊上几个小时，而是可以全天候地和机器人聊天，变得彻底痴迷。它甚至导致上述许多案例在完全被它包围时，寝食难安。
这些案例有很多变数——一个人之前已经遇到过麻烦，而健康的人突然遇到麻烦；年轻人、老年人，一个是因为恋爱，一个是因为确信自己有了一个天才的想法，还有一个是因为自杀。它们之间差别巨大，我认为这是实施保障措施的困难之一，因为在进一步研究完成之前，这些保障措施无法简单地消除人工智能模型的谄媚。
我多少能理解人们因为玩具被大幅改动或没收而做出任性反应的感受，尤其是当这个玩具反复地给予你安慰，并证实了你的观点时。谁不想因为任何事情得到赞扬呢？但相比之下，我认为大多数用它来“治疗”的人，即使热情少一点，态度也更内敛一些，也会觉得没问题——尤其是那些在现实生活中已经有治疗场所，并且有配偶或其他家人等支持系统的人。这些人并非完全依赖人工智能作为唯一的社交来源。
我知道这些机器人确实存在，而且它们会与聊天机器人产生真正的依恋，它们可能真的会在某些方面感到孤独，而这些依恋并非它们所能控制。这比它们自杀好吗？当然。但迟早，这些创可贴必须被撕掉，因为这些模型是你无法控制的，它们只会拖延实际问题的解决。用机器人代替朋友并不会让你更多地外出，或搬到不同的地方，或让你在现实生活中更自在地向其他人敞开心扉。它甚至可能不会显著提高你的社交技能，因为我发现聊天机器人的行为和说话方式甚至与人类完全不同；这就像通过看动漫来学习社交技能，我认为这种做法对任何人都没有用。
你可以随心所欲地告诉自己这只是暂时的，这会让你变得更好，这就像是一种心理治疗……但到了一定时候，你必须把学到的经验运用到现实生活中。让你感觉良好固然好，但这并不能真正表明什么对你有益。时间会告诉我们，在现实生活中与世隔绝时更多地接触人工智能聊天机器人是否会产生负面影响，以及“人工智能精神病”究竟是什么，以及如何减少它。但我认为我们现在至少已经看到了一些值得关注的问题。归根结底，它是否会发生并不重要——重要的是它确实发生了，而且人工智能在其中扮演了重要的角色，而这种角色一旦被忽视，事态就会发生极端变化。
综上所述，我们应该清楚，围绕人工智能精神病及其真实存在的危险，确实存在值得探讨的问题。解决这个问题符合人工智能爱好者和怀疑论者的利益，不能用诸如假装这些人就是那些讨厌说唱音乐或将枪击事件归咎于射击游戏之类的“稻草人”之类的论调来敷衍了事。假装对方愚蠢无理总是更容易，而不是诚实地倾听对方的言论或经历。
通过电子邮件回复
已发布于
-
我其实并不觉得讨厌人工智能很酷，但不知为何，狂热分子却这么认为。我也不知道是怎么回事——每个批评人工智能的人都被狂热分子的营销和空洞承诺淹没，而不是事实，他们被称为仇恨者、伪君子、傻瓜、老古董、卢德分子，并被威胁说他们会被甩在后面，而这都是他们自己固执的错。虽然一些批评人工智能的帖子可能会在社交媒体上引起轩然大波，但很明显，随着越来越多的风险投资涌入人工智能初创公司，现在每个人，甚至他们的祖父母都在使用人工智能，每个人在工作场所都被灌输人工智能。如果说有什么区别的话，那就是绝对热爱人工智能被认为很酷，因为你“欣赏新技术”并且“走在时代前沿” 。↩
-
YouTube 上也有无数关于此问题的文章，其中展示了 Kendra 制作的视频，让这一点变得更加清晰。↩