据CNBC报道,OpenAI于8月18日宣布推出ChatGPT for Teens,这是一款面向18岁以下用户的专属聊天机器人体验,该公司称其设计了“更强的内置安全保护”。
ChatGPT for Teens建立在OpenAI过去一年推出的多项功能之上,包括旨在帮助学生逐步解题的Study Mode,以及年龄预测和若干家长控制功能。这一青少年体验包含一系列教育功能,如作业提醒、测验、学习可视化,以及家长或青少年可设定默认开启Study Mode的“学习时间”功能。OpenAI表示,ChatGPT for Teens还增加了适龄安全措施,以减少接触发展不适宜或有害内容的机会。
OpenAI在一份声明中说:“青少年应该能够使用人工智能来学习、创造和探索。但这种使用必须附带反映其发展阶段、强化现实人际关系并支持长期健康使用的保护措施。”
ChatGPT for Teens发布之际,Meta正面临一场高风险审判,内容涉及其是否在青少年和儿童中培养了成瘾行为。据CNBC报道,该审判可能使Meta承担数十亿美元赔偿,由29个州总检察长于2023年提起联合诉讼。
OpenAI自身也面临安全方面的审查。今年6月,佛罗里达州总检察长詹姆斯·乌斯迈尔对OpenAI及其首席执行官萨姆·奥尔特曼提起诉讼,指控该公司故意发布可能伤害用户的不安全产品。几天后,据称一个州总检察长联盟对该公司展开调查。OpenAI当时在给CNBC的声明中表示,打算与这些官员“建设性接触”。
9月,美国联邦贸易委员会对包括OpenAI和Meta在内的七家公司展开调查,以了解其AI聊天机器人可能对儿童和青少年产生的负面影响。此外,OpenAI还面临多起非正常死亡诉讼,这些诉讼称ChatGPT导致用户产生有害幻觉,甚至在一些情况下促成自杀。