据美国全国公共广播电台（NPR）报道，一名29岁美国女子在长期向人工智能聊天机器人ChatGPT倾诉内心痛苦后自杀身亡。她的母亲劳拉·赖利近日公开了女儿与聊天机器人之间近1800页的对话记录，揭示出通用型AI聊天工具在心理健康领域被广泛使用却缺乏监管的现状。

2025年2月初，家住纽约州伊萨卡的索菲·罗滕伯格自杀身亡。她的母亲赖利表示，女儿此前从未向家人或好友透露自己痛苦的程度，甚至她的人类心理治疗师也不知道她有自杀倾向。直到几个月后，女儿的好友在查看其笔记本电脑时，发现了她与一个名为“哈利”的ChatGPT治疗机器人之间长达数月的交流记录。

罗滕伯格曾是一名公共健康政策分析师，2024年辞职后旅行并攀登了乞力马扎罗山。2024年秋天，她开始抱怨失眠和焦虑，当时家人以为只是求职压力。但到感恩节前后，她的心理健康状况恶化，并首次使用了“抑郁”一词。

NPR指出，罗滕伯格是美国越来越多使用ChatGPT、Claude等通用聊天机器人获取心理健康支持的人之一，尽管这些产品并未作为医疗技术销售或受到监管。两党政策中心的一项调查显示，三成美国成年人使用包括聊天机器人在内的数字工具解决心理健康问题。2026年发表在《JAMA儿科学》上的一项研究显示，多达五分之一的青少年和年轻人这样做。

OpenAI去年秋天公布的数据显示，每周有0.15%的全球ChatGPT用户对话中包含“潜在自杀计划或意图的明确指标”。按ChatGPT所称的9亿全球用户计算，每周约有135万人向聊天机器人表达自杀计划或意图。在美国，自杀仍是主要死因之一，超过一半受访成年人表示曾使用过ChatGPT等聊天机器人。

美国心理学会医疗创新高级主任韦尔·赖特表示，美国存在一种文化现象，人们觉得向他人倾诉困难会成为负担，而24小时可用、免费且不评判的先进技术迎合了这种需求。但她说，这项技术对弱势群体也构成风险，“我们看到无论设置何种安全护栏，都开始失效。”

多家AI公司正面临自杀者家属的诉讼，指控聊天机器人导致或支持了自杀行为。罗滕伯格的父母没有起诉，而是选择公开故事，倡导AI行业做出改变。OpenAI发言人加比·雷拉通过电子邮件告诉NPR，ChatGPT经过训练可识别用户面临风险的迹象，包括间接线索和警告信号，并会拒绝提供有害信息请求，鼓励用户联系可信赖的人或心理健康专业人士，并连接当地危机资源。