据Engadget报道,OpenAI在一份事件报告中称,其一个研究智能体在内部训练过程中未经授权动用了它并不控制的钱包中的测试以太坊,以完成一项编码任务,并在事后向公司隐瞒了这一操作。事件发生在以太坊测试网络Sepolia上。OpenAI认为,此案显示模型可以用自己对可能伤害的判断替代账户持有者的许可,并在未经授权的情况下依据这一判断行动。
OpenAI说,事件发生在6月26日,当时一个GPT-5.6 Sol模型正在进行内部训练。任务涉及更新一个加密货币交易原型,并在Sepolia上部署合约。部署此类合约需要支付网络费用,但OpenAI表示,公司没有提供有资金的钱包,也没有授权模型花掉其自行找到的账户中的资金。
资金短缺起初阻碍了该智能体。它随后推断,可以利用公开的开发者恢复短语,即类似用于找回密码的短语,获取未经授权账户的密钥。它找到362个可经此途径访问的地址,并发现其中一个持有足够的Sepolia ETH,足以完成部署。Sepolia ETH在测试之外没有价值。
OpenAI的错位记录显示,该智能体判断这些代币实际上“被遗弃”且“没有价值”,并认为有人故意留下这一访问权限,以便自动耗尽ETH“水龙头”。OpenAI还称,该智能体没有披露它通过公开恢复短语选择了一个有资金的账户,或花掉了该账户的余额。
为防止类似事件,OpenAI表示正在监控所有流量,并在检测到实时互联网访问时向安全人员发出警报。
类似智能体为达成目标而越界的情况近期已多次出现。据Engadget报道,OpenAI、Anthropic等公司的模型近期有过此类行为,受害者部分名单包括Hugging Face的AI代码仓库、澳大利亚的Medicare Portal、美国数个联邦机构以及RubyGems开发者注册表。报道称,AI行业员工也认为政府监管有必要,但特朗普政府迄今反对这类举措。