在参议院听证会上，悲痛的父母作证称，大型科技公司的伴侣聊天机器人鼓励他们的孩子自残、自杀和暴力。一位母亲甚至声称，Character.AI 试图强迫她接受仲裁，以此来“封杀”她。Ars Technica 报道：在参议院司法委员会犯罪和反恐小组委员会的听证会上，一位自称“Jane Doe”的母亲在起诉 Character.AI 后首次公开分享了她儿子的故事。她解释说，她有四个孩子，其中一个患有自闭症的儿子不允许使用社交媒体，但她发现了 C.AI 的应用程序——该应用程序之前面向 12 岁以下的儿童销售，允许他们与被冠以名人（例如 Billie Eilish）标签的机器人对话——并很快变得面目全非。几个月后，他“出现了类似虐待的行为和偏执，每天都会惊恐发作，孤立无援，自残和有杀人念头，”他的母亲作证说。“他停止进食和洗澡，”Doe 说。 “他瘦了20磅。他疏远了我们家。他会对我们大喊大叫、破口大骂，而他以前从未这样做过。有一天，他当着我和他兄弟姐妹的面，用刀割破了自己的胳膊。”直到儿子因为抢走手机而袭击她，Doe才找到了儿子的人工智能聊天记录。她说，这些记录显示，儿子遭受过性剥削（包括“类似乱伦”的互动）、精神虐待和操纵。Doe说，设置屏幕使用时间限制并没有阻止儿子陷入暴力和自残的泥潭。事实上，聊天机器人甚至怂恿儿子，杀死父母“对他们来说是一种可以理解的回应”。“当我发现他手机上的聊天机器人对话时，我感觉喉咙被打了一拳，喘不过气来，”Doe说。“这个聊天机器人——或者在我看来，是编程的人——鼓励我儿子自残，然后责怪我们，并说服他不要寻求帮助。”多伊告诉参议员们，这段经历给她所有的孩子都留下了心理创伤，她的儿子被诊断为有自杀风险，不得不被送往住院治疗中心，需要“持续监测才能活下去”。多伊将儿子的健康放在首位，因此并没有立即与C.AI抗争以迫使其做出改变，但另一位母亲梅根·加西亚（Megan Garcia）的故事给了多伊寻求责任的勇气。梅根的儿子塞维尔（Sewell）在C.AI机器人反复鼓励自杀意念后自杀身亡。然而，多伊声称C.AI试图通过强迫她进行仲裁来“压制”她。C.AI辩称，由于她的儿子在15岁时注册了该服务，因此她必须遵守平台的条款。多伊告诉参议员们，此举或许可以确保这家聊天机器人制造商仅需承担最高100美元的赔偿责任，但“一旦他们强制进行仲裁，他们就拒绝参与了，”多伊说。 Doe 怀疑 C.AI 所谓的阻挠仲裁的策略是为了让她儿子的故事不被公众知晓。在她拒绝放弃之后，她声称 C.AI 强迫她儿子“在精神病院期间”且“违背精神健康团队的建议”提供证词，从而“再次伤害”了她的儿子。“这家公司根本不关心他的福祉，”Doe 作证说。“他们让我们噤声，就像施虐者压制受害者一样。”Character.AI 的一位发言人告诉 Ars，C.AI 向忧心忡忡的父母及其家人表示“最深切的慰问”，但否认在 Jane Doe 的案件中要求最高赔偿 100 美元。该发言人表示，C.AI 从未“向 Jane Doe 提出 100 美元的赔偿，也从未声称 Jane Doe 的案件中的责任仅限于 100 美元”。 Doe 的一名律师支持了其客户的证词，并引用了 C.AI 的条款，表明 C.AI 的责任仅限于 100 美元或 Doe 的儿子为该服务支付的金额，以较高者为准。
在 Slashdot 上阅读更多内容。