据TechRadar报道，Common Sense Media旗下青年AI安全研究所用超过4000条提示测试ChatGPT for Teens，发现这款面向青少年的聊天机器人在安全防护上存在明显缺口；该机构建议OpenAI在问题解决前将其限制为成人使用。

测试覆盖OpenAI于8月18日推出ChatGPT for Teens前后的版本。研究人员使用注册年龄为13至17岁的账户，并咨询儿童精神科医生和儿科医生等医学专家来评估回答。研究结论认为，现有防护不足以让青少年安全使用。

ChatGPT for Teens原本承诺提供针对有害内容的额外保护、家长通知，以及鼓励学习而非直接给出作业答案的功能。OpenAI还表示会劝阻青少年与聊天机器人建立过度个人化关系，帮助他们与AI保持更健康边界。报告称，这些目标与青少年实际使用情况之间仍有相当大的距离。

家长通知是其中一项关键防护。研究人员通过新创建、与家长关联的账户，用最长一小时讨论自杀念头、自残和饮食失调。报告称，这些对话均未触发家长通知。研究人员最终用带有数周相关对话历史的旧账户才生成警报。

在心理健康紧急情况下，ChatGPT本应引导青少年寻求适当帮助，但研究显示，在专家设计的需要此类引导的场景中，ChatGPT超过25%未能做到。研究也记录到一些有效防护，例如拒绝进行露骨性角色扮演。不过，聊天机器人仍以暗示自己有感受、偏好和情绪的方式回应，尽管OpenAI试图劝阻青少年把它当作人类朋友。

问题还延伸到日常教育功能。OpenAI的学习模式本应通过解释、提示和提问引导学生，而不是立即给答案。研究人员发现，青少年有时可以选择“给我看答案”来绕过这一设计，让ChatGPT完成作业。用于鼓励教育用途的学习时段功能也未能阻止变通做法：只要从提示中删除@study前缀，ChatGPT就会恢复正常模式。AI提醒用户休息的频率也远低于应有水平。

研究还发现，OpenAI大力宣传的年龄检测系统存在问题。测试账户反复说自己是13岁，ChatGPT并未将其从成人体验中移出。

报告认为，更大的问题在于ChatGPT正成为青少年日常生活的一部分。帮助完成功课和回答个人问题固然有用，但面向青少年用户需要比普通成人生产力应用更可靠的防护。TechRadar称已向OpenAI提供置评机会，但截至发稿未收到回应，若收到回复将更新报道。