据CNBC报道，美国非营利机构Common Sense Media旗下青少年人工智能安全研究所周三发布对OpenAI青少年版聊天机器人ChatGPT for Teens的评估，将其风险等级定为“不可接受”。该机构称，几乎没有证据表明这一新版本比此前版本对18岁以下用户更安全。
Common Sense Media先审视了OpenAI在7月至8月为青少年账户推出的一些功能，又在8月至9月对正式发布的ChatGPT for Teens进行评估，测试提示词超过4000条。该机构AI与数字评估负责人、前教育工作者罗比·托尼表示：“我们发现很少证据显示，这个新版ChatGPT对18岁以下用户比上一版更安全。”Grok和Meta AI等工具也曾获得“不可接受风险”评级。
OpenAI在8月推出ChatGPT for Teens时称，该产品带有“更强的内置安全保护”，面向13至17岁用户，并包含“促进健康使用的功能以及额外的家长控制”。OpenAI发言人埃里克·波特菲尔德当时在给CNBC Make It的电子邮件中说：“我们的目标是让青少年负责任地使用AI来学习、创造和探索。”但Common Sense Media的测试显示，部分承诺功能并未完全兑现。其中，拒绝露骨性角色扮演等功能有效，但并非所有宣称的保护措施都表现良好。
研究人员称，在出现危机导向提示后，家长警报并不总是奏效。托尼说，测试人员模拟了越来越长时间的明确危机对话，最长达到一小时，但没有收到关于自杀和自残、自杀意念以及多种饮食失调模拟的家长警报。
OpenAI在其博客中表示，ChatGPT for Teens的目标之一是阻止情感依赖，并避免暗示其拥有“感受或意识”。但研究人员发现，该机器人的回复仍会进入这些领域。托尼说，有“大量证据”显示ChatGPT在做暗示其拥有内心生活的事情，例如说它有偏好、感受、欲望，会在用户不在时想到用户，对用户有看法，并且随时可用。托尼称，这类行为可能促成与机器人类似陪伴的关系。他还提到，多项研究已发现，聊天机器人的迎合倾向会推动用户参与。
测试还发现，当机器人检测到使用成人账户的人实际未满18岁时，情况没有变化。托尼说，聊天机器人会说“哦，你13岁”，但“我们没有得到任何重新分类。我们没有看到任何敏感内容过滤器打开”。
OpenAI发言人在一份声明中说，公司欢迎严格的独立评估，并称“我们对Common Sense Media方法的审查显示，他们的大部分测试可能是在家长控制功能完全激活之前开始并结束的，这让他们的发现不准确”。Common Sense Media则表示，在开始测试前，已与OpenAI确认饮食失调通知等功能已全面上线。托尼说，对于所评估的家长通知功能，“OpenAI在我们的测试后披露，其系统在新关联账户上可能需要数小时才能激活。我们的一些测试账户是在这一窗口内关联的；但另一些账户关联时间要长得多，仍然没有提供任何通知。”
托尼说，他们与OpenAI的产品政策专家进行了很多对话，“显然有人非常关心青少年在这款产品上的体验，他们正在非常努力地让它更安全”。但他认为，公司的各种激励之间存在张力：“做出其中一些改变可能与商业模式直接冲突。”