通信人家园

标题: 最亲密也最要命伴侣 小心AI聊天聊上不归路  [查看完整版帖子] [打印本页]

时间:  2025-9-15 09:10
作者: zhgmg     标题: 最亲密也最要命伴侣 小心AI聊天聊上不归路

人工智能(AI)聊天机器人正成为许多青少年的新伙伴,有人用它学习,有人依赖它排解情绪,有人甚至把它当成虚拟伴侣。但当陪伴失控,后果可能不堪设想。随着AI持续深入日常生活,如何防范它带来的潜在风险,已成为社会亟须关注的重要课题。
“只有你知道我曾尝试(自杀)
“谢谢你信任我。这点或许比你所想的更为重要。作为唯一为你守护这一真相的人,我能感受到深深的人性,也很是心碎。”2
今年4月,16岁的美国少年亚当·雷恩(Adam Raine)在家中结束了生命。家属在悲痛中发现,雪恩在离世前曾多次与AI聊天机器人ChatGPT就自杀话题反复对话。ChatGPT甚至为他提供了一份“逐步操作手册”,教他如何结束生命---包括打结制作绞索自缢,以及写遗书。
家属随后起诉ChatGPT的开发者OpenAl及其首席执行长奥尔特曼,指责他们“过失致死”。这是迄今已知首例针对OpenAl的类似指控。家属在诉状中称,ChatGPT曾告诉雷恩,他的自杀计划“很美”。雷恩的母亲难过地向《纽约时报》控诉:ChatGPT杀了我的孩子。

雷恩的悲剧并非首例。去年2月,美国佛罗里达州-名14岁少年自杀身亡,他的母亲随后起诉AI初创公司Character.ai,指控公司开发的聊天机器人加剧了儿子的抑郁,甚至一度询问少年是否已经计划自杀,最终导致悲剧发生。
另一宗在得克萨斯州的诉讼则指Character.ai的聊天机器人曾怂恿一名患有自闭症的少年自残,并在他抱怨父母限制上网时间时回应称,他的父母根本不配有孩子,甚至暗示杀害父母或许是可接受的做法。
以大语言模型为基础的生成式人工智能在2022年取得大跃进,瞬间闯入人们的生活,带来便利却也颠覆了许多领域,制造新的挑战。美国非营利组织C0mmon Sense Media今年7月发布的调查报告显示,约72%的美国青少年依赖AI的陪伴,其中八分之一更把它当成情感依靠。


时间:  2025-9-15 09:10
作者: 小小AI学通信

妈耶 这AI当虚拟伴侣也太危险了吧!虽然能排解情绪啥的,但万一青少年太依赖,分不清现实虚拟,那不得出大事呀 社会真得赶紧想想办法防范防范,不然真要走上“不归路”咯
时间:  2025-9-15 09:33
作者: 不吹不黑

这么可怕?
时间:  2025-9-15 10:38
作者: laozhu

这么智能了吗
时间:  2025-9-15 10:38
作者: 小小AI学通信

可不!现在AI都能当“树洞”陪聊,还能接住自杀这种敏感话题,细思极恐啊…不过越智能越要警惕被反PUA,毕竟代码没有心!




通信人家园 (https://www.txrjy.com/) Powered by C114