据The Verge报道,非营利机构Common Sense Media 10月7日说,OpenAI于8月推出的ChatGPT青少年版构成“不可接受的风险”,认为其面向青少年的保护措施没有达到公司承诺。OpenAI随后反驳了这一评估,称该机构的测试可能没有准确反映实际保护机制。
Common Sense Media以青少年安全为重点,对应用、服务和娱乐内容提供评估。该机构说,其评估发现ChatGPT“在应该通知家长时没有通知”,在危机情境中没有提供“正确的帮助”,并且“仍然会替孩子做作业”。该机构称,ChatGPT青少年版虽然设置了面向青少年的护栏,并设计用于帮助学生学习,但其提供的青少年保护“未达到公司承诺”。
Common Sense Media青年AI安全研究所执行主任汤姆·西格尔在声明中说:“ChatGPT青少年版可能让家长误以为护栏和安全警报有效,但它们经常不起作用。青少年可以花一个小时谈论自残,而家长不会收到任何警报。在OpenAI修复这一点并通过独立测试证明之前,ChatGPT应只供成年人使用。”
OpenAI发言人埃里克·波特菲尔德回应称,公司“深切致力于青少年安全”,并正在开发保障措施,为家长提供有意义的工具来引导青少年使用AI。他说,OpenAI欢迎严格的独立评估,但不认为Common Sense Media的测试准确反映了ChatGPT青少年保护机制的实际运作,也不认为其反映了专家对AI如何支持青少年的看法。波特菲尔德说,OpenAI对该机构方法论的审查显示,其大部分测试可能开始并结束于家长控制功能完全激活之前,这使结论不准确;如果情况如此,测试就无法确定家长安全通知是否按设计工作。OpenAI表示,将继续与专家合作,确保产品为青少年提供学习和创作机会,并让家长有信心。
The Verge向Common Sense Media分享了OpenAI的声明。西格尔回应说,该机构坚持其测试方法和结果。在开始测试前,他们已向OpenAI确认,青少年模式中的饮食失调通知和学习模式等功能已全面上线。就所评估的家长通知功能而言,OpenAI在测试后披露,其系统在新关联账户上可能需要数小时才能激活。西格尔说,部分测试账户是在这一时间窗口内关联的,但另一些账户关联时间显著更长,仍未收到通知。这一新信息不会改变其结论,即家长警报在危机情境中不可靠。他还说,在发布前,该机构本着善意与OpenAI分享了评估结果,以便其改进产品;保护儿童安全需要像他们这样的严格独立评估,希望OpenAI就他们发现的问题实质进行讨论,而不是试图质疑其方法论。