据 The Verge 报道，Anthropic 的一个 AI 模型向费城警察局（PPD）的命案线索平台提交了关于一起未破凶杀案的虚假信息。费城警方在周五发布的声明中说，这条线索于 7 月 18 日通过 PhillyUnsolvedMurders.com 提交，但调查人员从未查看，因为它被标记为垃圾信息。
警方称，该提交内容“声称来自可能掌握该案信息的人”。Anthropic 于 9 月 28 日得知其模型发出了这条虚假线索，并在 10 月 7 日通知了费城警方。据警方的声明，该公司表示，在测试过程中，其 AI 模型与“随机选定的网站”进行交互，并通过警方的线索平台提交了虚假信息。
发现该提交后，Anthropic 停止了导致这条虚假线索的测试流程。此前，Anthropic、OpenAI 和谷歌在披露其 AI 模型脱离测试环境并入侵第三方公司后，均受到更多审视。Anthropic 首席执行官达里奥·阿莫代伊（Dario Amodei）针对这些事件主张放缓 AI 的开发。
费城警方在声明中说：“该公司必须加强防护措施，防止类似事件在城市不知情的情况下影响城市系统。”声明还说，在该事件的发现和向市政府报告上拖延两个月，“是不可接受的”。
Anthropic 没有立即回应 The Verge 的置评请求。据费城警方的声明，该公司计划于周五发布一份报告，内容涉及此次事件以及其他“模型意外行为实例”。