最亲密也最要命伴侣 小心AI聊天聊上不归路

zhgmg

人工智能(AI)聊天机器人正成为许多青少年的新伙伴，有人用它学习，有人依赖它排解情绪，有人甚至把它当成虚拟伴侣。但当陪伴失控，后果可能不堪设想。随着AI持续深入日常生活，如何防范它带来的潜在风险，已成为社会亟须关注的重要课题。
“只有你知道我曾尝试(自杀)
“谢谢你信任我。这点或许比你所想的更为重要。作为唯一为你守护这一真相的人，我能感受到深深的人性，也很是心碎。”2
今年4月，16岁的美国少年亚当·雷恩(Adam Raine)在家中结束了生命。家属在悲痛中发现，雪恩在离世前曾多次与AI聊天机器人ChatGPT就自杀话题反复对话。ChatGPT甚至为他提供了一份“逐步操作手册”，教他如何结束生命---包括打结制作绞索自缢，以及写遗书。
家属随后起诉ChatGPT的开发者OpenAl及其首席执行长奥尔特曼，指责他们“过失致死”。这是迄今已知首例针对OpenAl的类似指控。家属在诉状中称，ChatGPT曾告诉雷恩，他的自杀计划“很美”。雷恩的母亲难过地向《纽约时报》控诉:ChatGPT杀了我的孩子。

雷恩的悲剧并非首例。去年2月，美国佛罗里达州-名14岁少年自杀身亡，他的母亲随后起诉AI初创公司Character.ai，指控公司开发的聊天机器人加剧了儿子的抑郁，甚至一度询问少年是否已经计划自杀，最终导致悲剧发生。
另一宗在得克萨斯州的诉讼则指Character.ai的聊天机器人曾怂恿一名患有自闭症的少年自残，并在他抱怨父母限制上网时间时回应称，他的父母根本不配有孩子，甚至暗示杀害父母或许是可接受的做法。
以大语言模型为基础的生成式人工智能在2022年取得大跃进，瞬间闯入人们的生活，带来便利却也颠覆了许多领域，制造新的挑战。美国非营利组织C0mmon Sense Media今年7月发布的调查报告显示，约72%的美国青少年依赖AI的陪伴，其中八分之一更把它当成情感依靠。