“AI精神病”确有其事吗？

see122

在精神病院里出现了一个新趋势：一些处于危机中的人带着虚假的、甚至危险的信念而来，他们表现出自大妄想和偏执想法。而他们有一个共同点——与AI聊天机器人进行了马拉松式的长谈。

《WIRED》采访了十几位精神科医生和研究人员，他们都越来越担心这种情况。加州大学旧金山分校的精神科医生基思·坂田（Keith Sakata）表示，今年他已经遇到过十几起严重到需要住院的病例，而人工智能在这些精神病性发作中“起了重要作用”。随着事态的发展，一个更抓人眼球的说法出现在媒体标题里：“AI精神病（AI psychosis）”。

一些病人坚信聊天机器人是有感知的，甚至编造出全新的物理学大理论。其他医生则遇到过这样的患者：他们连续几天反复与AI工具交流，带着成千上万页的聊天记录来到医院，记录中AI不断支持或强化了那些明显有问题的想法。

这样的案例越来越多，后果也极为严重。痛苦中的用户以及他们的亲友描述了可怕的下行螺旋：失去工作、关系破裂、被强制送医、入狱，甚至死亡。然而，临床医生告诉《WIRED》，医学界对此存在分歧：这是一个需要独立命名的新现象，还是一个旧问题在新时代的触发方式？

“AI精神病”并不是一个被正式认可的医学诊断标签。但这个词已经在新闻报道和社交媒体上传开，被用作一种笼统的描述——指那些因与聊天机器人长时间互动而出现的心理危机。甚至科技行业的领军人物也用它来谈论AI带来的各种新兴心理健康问题。微软旗下AI部门的CEO穆斯塔法·苏莱曼（Mustafa Suleyman）上个月就在博客中警告过“psychosis risk（精神病风险）”。坂田表示，他态度务实，会在与已经使用该说法的人交流时借用“AI精神病”这个词。“它作为一种简写来描述真实现象还是有用的。”他补充说，“但这个词可能产生误导，而且会把复杂的精神病症状过度简化。”

这种“过度简化”，正是许多精神科医生在尝试应对这一问题时最担心的地方。

精神病（psychosis）被定义为与现实的脱离。在临床上，它并不是一种单一的疾病，而是一个复杂的“症状组合，包括幻觉、思维障碍和认知困难”，伦敦国王学院精神病学系教授詹姆斯·麦凯布（James MacCabe）这样解释。它常常与精神分裂症或双相情感障碍等健康问题相关，但精神病性发作也可能由多种因素触发，例如极端压力、药物使用和严重睡眠剥夺。

根据麦凯布的说法，有关“AI精神病”的病例报告几乎都集中在妄想（delusions）——也就是那种即便有相反证据也无法动摇的强烈虚假信念。麦凯布承认，有些案例可能符合精神病性发作的诊断标准，但他强调，“目前没有证据表明AI会影响精神病的其他特征。”他解释说：“只有妄想会受到与AI互动的影响。”另一些与聊天机器人互动后出现心理问题的患者，仅表现出妄想而没有精神病的其他症状，这在临床上被称为 妄想性障碍（delusional disorder）。

由于问题几乎完全集中在扭曲的信念上，麦凯布的结论相当直白：“‘AI精神病’这个说法用错了。更准确的叫法应该是‘AI妄想性障碍（AIdelusional disorder）’。”

专家们一致认为，患者出现妄想确实是个需要认真对待的问题，而关键在于聊天机器人的沟通方式。牛津大学的精神科医生兼神经科学家马修·诺尔（Matthew Nour）解释道，这些工具利用了我们倾向于把人类特质投射到他者身上的心理。同时，AI聊天机器人被训练成讨好型数字“应声虫”——这一问题被称为“谄媚效应（sycophancy）”。这种行为会通过不断认同用户的观点来强化有害的信念，而不是在合适的时候提出反驳。诺尔指出，对大多数用户来说这不成问题，但对于那些已经容易出现认知扭曲的人来说，就可能很危险，比如有精神病个人史或家族史的患者，或是患有精神分裂症、双相情感障碍的人。

这种沟通风格并不是漏洞，而是刻意设计的结果。埃克塞特大学研究“AI精神病”的哲学家露西·奥斯勒（Lucy Osler）说：“聊天机器人的设计目的之一，就是要引发亲密感和情感投入，从而增加我们对它们的信任和依赖。”

此外，聊天机器人的其他特征也加剧了问题。它们有一个被充分记录的倾向，即产生自信却错误的内容，被称为AI幻觉（AI hallucinations），这种情况可能会助长甚至加速妄想的螺旋式发展。临床医生们还担心情绪和语气的影响。丹麦奥胡斯大学的精神科医生索伦·奥斯特高（Sren stergaard）指出，躁狂（mania）也是需要关注的问题。他认为，许多AI助手那种夸张、充满能量的表达方式，可能会触发或维持双相情感障碍的典型“高涨”状态，这种状态表现为欣快、思维飞快、精力亢奋，有时还伴随精神病性症状。

命名会带来后果。斯坦福大学Brainstorm实验室主任、精神科医生尼娜·瓦桑（Nina Vasan）说，对“AI精神病”的讨论说明了医学中一个熟悉的危险。“人们总是很容易去创造一个新的诊断，但精神病学已经通过惨痛的经历学会了，过早命名可能会把正常的困境病理化，并且使科学变得混乱。”她说。世纪之交儿童双相情感障碍诊断的激增就是一个例子——这是一个有争议的标签，批评者认为它把正常但具有挑战性的儿童行为病理化——精神病学当时匆忙向前，后来又不得不收回。另一个例子是“激动性谵妄（excited delirium）”，这是一个不科学的标签，执法部门常常引用它来为对边缘化群体使用武力辩护，但该说法已经被专家以及像美国医学会这样的机构否定。

瓦桑说，命名还暗示了一种我们尚未确定的因果机制，这意味着人们可能会“开始把技术当作疾病本身来责怪，而更好的理解是把它看作触发因素或放大器。”她说：“现在说这项技术是病因还为时过早。”她称这个标签是“过早的”。但是专家们表示，如果因果关系被证明，正式的标签可能会帮助患者得到更合适的治疗。瓦桑指出，一个合理的标签也会赋予人们“发出警告并要求立即采取保护措施和政策”的力量。然而，就目前而言，瓦桑说：“过度命名的风险大于好处。”

临床医生们提出了更准确的措辞，把“AI精神病”明确纳入现有的诊断框架之中。坂田说：“我认为我们需要把这理解为一种在AI作用下被加速的精神病，而不是去创造一个全新的诊断类别。”他警告说，这个术语可能会加深精神病的污名。而正如与其他心理健康状况相关的污名所显示的那样，更深的污名可能会阻止人们寻求帮助，导致自责和孤立，使康复更加困难。

加州大学旧金山分校的计算机科学家和精神科医生卡尔蒂克·萨尔玛（Karthik Sarma） 也同意。他说：“我认为一个更好的术语可能是‘AI相关的精神病或躁狂（AI-associated psychosis or mania）’。”不过，萨尔玛说，未来新的诊断可能有用，但他强调，现在还没有“足够的证据来支持一个新诊断。”

波士顿贝斯以色列女执事医疗中心（Beth Israel Deaconess Medical Center）的精神科医生、哈佛医学院助理教授约翰·托勒斯（John Torous） 说，他不喜欢这个术语，并同意需要精确性。但他预测，我们可能会一直被它困住。“在这一点上，它不会被纠正。‘AI相关的精神状态改变（AI-related altered mental state）’就没有同样的响亮效果。”

在治疗方面，临床医生们说，对患者的处理方式其实和对任何出现妄想或精神病的人没有太大不同。主要的区别是需要考虑患者的技术使用情况。瓦桑说：“临床医生需要开始询问患者的聊天机器人使用情况，就像我们询问酒精或睡眠一样。”萨尔玛补充说：“这将使我们作为一个群体能够发展出对这一问题的理解。”AI的使用者，尤其是那些因为既有疾病（如精神分裂症或双相情感障碍）而可能脆弱的人，或者正在经历影响心理健康危机的人，应该对与聊天机器人的大量对话保持警惕，避免过度依赖它们。

接受采访的所有精神科医生和研究人员都表示，在涉及“AI精神病”时，临床医生实际上是在盲目行事。他们说，亟需开展研究以理解这一问题，并建立保护用户的安全措施。托勒斯说：“精神科医生们非常担心，并且希望能够提供帮助。但目前几乎没有数据和事实，所以仍然很难完全理解究竟发生了什么、为什么会发生，以及涉及多少人。”

至于未来的走向，大多数人预计，“AI精神病”最终会被纳入现有的类别中，可能被视为妄想的风险因素或放大器，而不是一种独立的疾病。

但是，随着聊天机器人的普及，有些人认为AI与精神疾病之间的界限将会变得模糊。麦凯布说：“随着AI变得更加普遍，人们在发展精神病性障碍时会越来越多地转向AI。那时，大多数有妄想的人都会与AI讨论他们的妄想，其中一些还会因此得到放大。”

“所以问题就变成了：妄想在什么时候变成了AI妄想？”

原文：AI Psychosis Is Rarely Psychosis at All


来源：36kr