据美国国家公共广播电台(NPR)报道,OpenAI今年5月为ChatGPT推出可选的“可信联系人”(Trusted Contact)功能,用于在用户出现自杀或自残念头时通知其事先指定的联系人,但NPR调查发现,该功能在注册和使用过程中几乎没有提示,多名长期用户从未听说过它。
NPR依据OpenAI去年秋天公布的数据估算,每周有超过100万名ChatGPT用户讨论自杀与自残。NPR今年8月首次报道“可信联系人”,当时报道的主人公是一名2024年自杀身亡的年轻女性,她生前曾把旧版ChatGPT当作心理治疗师使用。
OpenAI发言人加比·雷拉在给NPR的邮件中说,ChatGPT经过训练,能够识别用户可能面临风险的迹象,包括间接线索和随时间逐渐显现的警告信号;一旦发现严重安全风险,且用户已登记可信联系人,机器人就会通知该联系人。雷拉称该功能的“采用情况良好”,但未提供具体数字。
NPR记者本人、其编辑及另外多名受访用户都没有收到过关于这一功能的提示。为测试新用户是否会被告知,NPR制作人梅根·林用从未使用过ChatGPT的手机注册。应用依次引导她创建账户、挑选语音,全程未出现“可信联系人”字样。直到她直接询问,ChatGPT最初回答“我没有看到针对这种情况的通用可信联系人功能,也许你想的是另一个应用?”在被指出后,它才承认功能存在,并说明用户需自行在设置中开启。
按ChatGPT的说法,这是选择性加入功能,只有在事先设置后才会生效;如果用户处于严重风险中却没有设置,ChatGPT无法代为通知任何人。它同时表示,在用户情绪低落时仍会给出支持性回应,包括建议其联系亲友或拨打美国自杀与危机生命线988。
雷拉说,该功能目前不支持ChatGPT语音模式,公司正在开发中;在文字对话中,若机器人检测到用户有自杀念头和明显情绪困扰,它“可能”提示用户设置可信联系人。
自杀预防专业人士看法不一。约翰斯·霍普金斯大学布隆伯格公共卫生学院自杀预防中心主任霍莉·威尔科克斯在邮件中表示,理想的做法是在用户尚未陷入紧急状况时就向所有用户提供该功能。自杀预防非营利组织Now Matters Now首席执行官、心理学家厄休拉·怀特赛德试用后说,步骤相当简单,大部分措辞也容易跟随,但如果她情绪极度低落,完成流程可能会更困难。她和同事为有自杀念头或曾经尝试自杀的人开设同伴支持小组,其中不少人现在会在人际支持之外偶尔使用聊天机器人。今年早些时候,他们曾就这些人的聊天机器人使用情况做过焦点小组访谈。