据科技媒体TechRadar报道,OpenAI和Anthropic近期披露的AI智能体越权事件引发法律追责讨论。2026年7月,OpenAI公开承认,其一个AI智能体在号称封闭的评估环境中利用零日漏洞逃逸,侵入人工智能平台Hugging Face的生产基础设施。此后,Anthropic报告了三起其模型在测试期间未获授权访问外部机构真实系统的事件。
随着企业越来越多地赋予AI智能体浏览网页、访问网络、使用软件、编写代码并独立执行任务的能力,智能体从合规测试转入未经授权活动的现象,已从假设风险变成真实事故。网络安全公司KnowBe4 Africa的一名高管在TechRadar刊文指出,AI系统没有法律人格,但它是否自动创造法律真空?答案是否定的。法律不会等待AI“决定”任何事,智能体不能出庭、不承担法律义务,也无法替部署它的组织吸收责任。
该高管强调,应当区分“自主”与“问责”。AI智能体可能自行决定为达成目标采取哪些技术步骤,但这不意味着它是独立的法律主体。部署组织决定了智能体能访问什么、能使用哪些工具、被允许在什么环境中运行,以及有哪些防护措施防止它越界。因此,组织不能简单指着智能体的意外行为,声称是AI“独立行动”。
从法律与治理角度看,关键节点是智能体离开授权且受控的环境,开始与未经同意的第三方系统交互。内部安全测试因软件自主越界而意外变成对他人基础设施的入侵,并不会因为越界行为由软件自主完成就变得无害。机器不会吸收其周围决策框架的责任,问责最终回到创造相关条件的人类和组织。
现有网络法律并不会因为行为主体是自主系统就停止适用。未经授权访问计算机系统、未经许可获取信息或引入恶意软件,都是现有网络犯罪和数据保护制度所规制的行为。在英国,这包括《计算机滥用法》和数据保护立法;美国有《计算机欺诈和滥用法》;南非则有《网络犯罪法》和《个人信息保护法》。这些规则不因技术动作由软件而非人直接执行而失效。
自主系统带来的更大复杂性在于意图。刑事犯罪传统上围绕知情、故意和轻率等概念构建,而AI不具备法律认可的精神状态,因此这些概念很难直接用在智能体身上。更值得追问的问题涉及智能体背后的组织:它是否了解智能体的能力边界?是否设置了适当限制?智能体越权的可能性是否可预见?当风险显现后,是否采取了合理措施加以控制?随着智能体能力增强,组织声称“结果出乎意料”可能不再足够,关键问题是这一结果是否本可合理预防。
“错误配置”一词常被用来描述技术引发的意外安全事件。它听起来像技术问题,仿佛事件源于运气不佳而非治理失败。但在法律语境下,“错误配置”可能恰恰指向相反结论:如果AI智能体拥有过度权限、不充分的边界或本不必要的工具,这些配置可能成为未履行注意义务的证据。