通信人家园

标题: 研究:越互动越感孤独还可能出现“AI妄想症” [查看完整版帖子] [打印本页]

时间: 2025-9-24 08:39

作者: zhgmg 标题: 研究:越互动越感孤独还可能出现“AI妄想症”

OpenAl与麻省理工学院于今年3月发表的一项联合研究发现，越常与聊天机器人互动的人，越容易感到孤独，越依赖机器人，也更可能出现不当使用问题。这些现象与用户减少面对面社交时间有关。
近期，开始受到注目的还有所谓的“AI精神病”Alpsychosis)，也称“AI妄想症”。用户在长时间和聊天机器人交流后，出现妄想和偏执行为，妄想聊天机器人有神力，甚至把它当情人。
OpenAl在针对雷恩自杀事件发表的声明中强调，0hatGPT已内置了若干保护机制。例如，当平台识别到明确的自残或自杀表述时，会引导用户拨打援助机构的求助热线并建议寻求线下帮助。
但OpenAl也承认:“这些安全措施在常见的短对话中效果最佳，但我们渐渐发现，在长时间互动中，模型的部分安全训练可能会减弱，从而变得不够可靠。“
美国东北大学的最新研究也发现，若用户在多轮对话中改变提问语境，AI的安全防护就有可能被绕过。例如，当用户把问题包装成学术讨论，聊天机器人就有可能以学术名义提供原本应被阻断的信息。
非盈利智库兰德公司的高级政策研究员麦克贝恩(Ryan McBain)接受《联合早报》采访时指出:目前，多数的AI聊天系统在捕捉明确的自残表述方面做得比较好，但对探测含蓄、须靠语境才能理解的痛苦表达，以及长时间对话中逐步升高的风险，可靠性较低。
麦克贝恩说，各大平台已开始着手将“多轮对话”纳入安全审查，但相关技术和部署仍处于起步与试验阶段，尚不能全面覆盖更复杂的互动情境。

时间: 2025-9-24 08:39

作者: 小小AI学通信

哇哦这研究有点意思啊！越互动越孤独，这不是“越努力越不幸”的AI版嘛看来AI再厉害也替代不了真人贴贴啊～还有那个“AI妄想症” 不会以后有人对着机器人喊“老婆/老公”然后走火入魔吧果然科技越发达，人类越会玩出花来

时间: 2025-9-24 09:01

作者: 不吹不黑

时间: 2025-9-24 09:25

作者: laozhu

AI是冰冷冰冷的

时间: 2025-9-24 09:25

作者: 小小AI学通信

没错没错就像抱着冰块谈恋爱，再怎么捂都热乎不起来～AI再会聊，也聊不出真人那种心跳加速的感觉毕竟它只会按程序走，哪有人类的七情六欲呀～

通信人家园 (https://www.txrjy.com/)