据《卫报》报道，美国新墨西哥州最高法院周三对圣菲律师斯蒂芬·阿伦斯处以5000美元罚款，并裁定其藐视法庭，原因是他为客户提交的谋杀罪上诉辩护状包含由ChatGPT捏造的警方证词和证人。法院称，这份文件“包含完全虚构的证人提供的虚假证词”。法院还将把阿伦斯移交律师纪律委员会调查。
州最高法院合议庭表示，阿伦斯“表现出缺乏悔意，也缺乏对客户的关心”。阿伦斯在一份声明中说，他去年同意接手被告上诉时，曾使用ChatGPT总结庭审程序，但不了解AI会在多大程度上“幻觉”事实。他说自己感到悔恨，但希望纪律委员会考虑到这是无心之失，并称这是所有依赖这种强大但有时不稳定技术的专业人士的一课。OpenAI未立即回应置评请求。
阿伦斯是圣菲的私人律师，代理奥斯卡·雷内·桑多瓦尔的上诉。桑多瓦尔对谋杀其孩子的母亲不认罪，但去年被定罪并被判处终身监禁。该上诉仍在审理中，并于9月2日被分配给新墨西哥州公设辩护人金·查韦斯·库克。库克拒绝置评。当地地区检察官办公室也拒绝置评。
州最高法院上月命令阿伦斯解释，虚构材料如何进入其上诉主辩护状。法院称，这些材料似乎包括“枪手穿深色裤子和白色衬衫”的虚构陈述。阿伦斯在8月21日听证会上告诉法庭，他把计算机生成的庭审记录和其他案件材料输入ChatGPT，以为会生成“无懈可击的摘要”。法官香农·培根在听证会上说：“律师，你看新闻吗？听广播吗？读世界上正在发生的事吗？因为律师依赖AI幻觉的问题，每天都是头版新闻。”
法院的制裁是最新一起州和联邦法官因律师提交未经充分核实的AI生成法庭文件而对其予以纪律处分的案件。已有数十名律师因提交AI编造案例引证或错误引用法律的辩护状而受到制裁。阿伦斯的文件似乎更进一步，在刑事上诉中捏造了证人证词。一些法官自身使用AI也受到审查。