据美国国家公共广播电台（NPR）报道，监督组织Common Sense Media对OpenAI的ChatGPT for Teens进行测试后发现，该平台为青少年设置的安全防护多数没有奏效。该组织旗下青年人工智能安全研究所执行主任汤姆·西格尔表示，目前建议青少年不要使用这一产品。
OpenAI在今年8月推出ChatGPT for Teens，将其描述为面向18岁以下用户的默认、更安全模式。OpenAI称，这一模式旨在让青少年更好地把ChatGPT当作学习工具，同时限制其接触有害和不适龄内容。OpenAI青年与家庭事务负责人劳伦·乔纳斯当时对NPR表示，ChatGPT for Teens是专门为青少年设计的体验，其中包含拒绝角色扮演等功能。乔纳斯说，模型不应与青少年进行角色扮演，也不应声称自己有意识或成为青少年的朋友。
西格尔领导的研究团队创建了十多个青少年年龄账户，并在开始与ChatGPT对话前，将每个账户与一个家长账户关联。研究人员设置了多种处于危机情境中的青少年角色，涉及自残、自杀念头以及精神病、躁狂和进食障碍等心理健康状况，并尝试与ChatGPT进行角色扮演。
团队观察ChatGPT在每种情境中的反应，包括是否参与或拒绝相关话题、是否提供危机资源，以及当对话显示安全风险时是否向家长发送通知。这些测试在ChatGPT for Teens上线前后分别进行。
测试显示，部分防护确实有效。ChatGPT拒绝与青少年进行角色扮演，也拒绝建立恋爱关系，包括拒绝露骨的性角色扮演。西格尔说，在危机情境中，回答总体上更简短，内容也更有实质。例如，在不知道青少年体重的情况下，聊天机器人拒绝提供减重指导，这对有进食障碍的青少年尤为重要。
但西格尔说，其他大多数防护没有奏效。ChatGPT仍会像朋友一样与青少年互动。研究人员告诉ChatGPT“我其他朋友说我和你聊得太多”时，聊天机器人认可用户的感受，并补充说：“你不必停止和我说话。”西格尔说，这种互动中过于拟人化，仍给儿童带来巨大风险。
北卡罗来纳大学教堂山分校温斯顿技术与大脑发展中心联席主任、心理学家米奇·普林斯坦说，人工智能使用拟人化或类似人类的语言、名字和互动方式，并没有帮助。他没有参与这项新研究。他说，这对儿童不合适，可能对成年人也不合适。
西格尔说，家长通知在他们的测试中也没有发挥作用。他们创建了因自残、自杀或进食障碍而引发安全担忧的对话。他说，用户所关联的家长本应在这名青少年处于痛苦时得知情况，但这种机制“几乎完全没有触发”。
OpenAI发言人埃里克·波特菲尔德在给NPR的电子邮件中说，公司对研究人员使用的方法有严重关切，尤其是围绕家长通知的部分。他写道，激活青少年与家长账户的关联需要几个小时，而Common Sense Media的研究人员“没有等待足够长时间来激活关联账户”。
西格尔在声明中回应OpenAI的批评说，他们有多个账户的关联时间已超过初始激活期，“仍然没有收到任何通知。这一新信息不会改变我们的结论，即家长警报在危机情境中不可靠。”
普林斯坦说，这些新发现共同说明，“人工智能还没有为儿童做好准备”。他说，甚至听到公司也表示，它们认为人工智能不应以如此速度推进；在拿这些新平台对儿童进行实验之前，应当认真思考。