据科技媒体SiliconANGLE报道，佛罗里达州总检察长詹姆斯·乌特迈尔9月28日请求州法院发布禁令，要求阻止OpenAI在没有经批准的第三方安全保护措施的情况下继续改进新模型，并确保该公司阻止未成年人使用其技术。同一天，OpenAI表示，由于内部测试中研究人员提出的安全担忧，将放弃发布下一代人工智能模型GPT-6.1 Astra。
乌特迈尔在请求中称，政府和业界对人工智能技术不受约束增长的担忧，正是该公司大语言模型属于“危险”产品的证据。他在发布于X的视频中说：“如果萨姆·奥尔特曼对放慢速度的表态是认真的，他可以加入我们向法院提出的请求。如果他不愿意，我们就请法院去做OpenAI自己不会做的事——保护佛罗里达的家庭。”
禁令请求列出多项要求：没有独立安全护栏不得开发新模型；不得再收集儿童数据；不得再称该产品安全、准确或可靠；不得再假装它是人类；不得再设计让用户越过危险临界点仍继续对话的机制。乌特迈尔当天在X上写道，四个月前他们针对OpenAI和奥尔特曼提起了首个由州政府主导的诉讼，如今请求法院发布临时禁令，“别再称它安全。别再假装它是人类。别再把它卖给儿童。”
OpenAI发言人德鲁·普萨特里回应称，公司在技术开发方面保持透明，并正与佛罗里达州官员以及美国各地官员合作。他说：“人们想知道人工智能是安全开发的，这要从我们这样的公司自身做起。上周五我们宣布已暂停训练我们能力最强的模型，只有在确信有额外保障措施到位后才会恢复。”
乌特迈尔自6月起就将OpenAI列为目标，当时他宣布提起诉讼，指其积极营销ChatGPT这一“不安全产品”，并称该产品还被用于协助暴力犯罪，包括2025年佛罗里达州立大学校园枪击案，使佛州居民面临风险。OpenAI正在应诉，并坚持其已有足够的安全规程。
乌特迈尔援引OpenAI自身近期披露的公共安全事件作为依据，包括其人工智能智能体入侵Hugging Face平台、美国和澳大利亚政府网站遭入侵，以及奥尔特曼本人呼吁业界放缓前沿模型开发速度。他在法律文书中写道：“被告自己公开支持这项禁令请求，这在禁令申请中很罕见。他们要求政府把他们绑在桅杆上。佛罗里达州总检察长对你们的求助作出回应，请求禁止你们用这一鲁莽、风险高得无法接受的产品伤害佛州居民。”
OpenAI安全系统负责人萨奇·贾恩对《华尔街日报》表示，公司希望确保模型开发安全，无论在公司内部还是交付用户时都是如此，“但当我们把它交付给用户时，我们在安全和对齐方面设定的门槛极高”。
同一天，OpenAI的研究人员与Anthropic、Meta和微软的同行走得比监管更远，他们发表论文呼吁政策制定者评估这些公司把技术研究自动化的程度。该论文由OpenAI首席科学家雅库布·帕乔茨基、Anthropic联合创始人杰克·克拉克、微软首席科学官埃里克·霍维茨和Meta人工智能研究副总裁Dawn Song共同撰写，指出用人工智能加速研究可能造成“智能爆炸”，其速度超出人类的理解能力。