据TechRadar报道，OpenAI近来持续扩展ChatGPT的智能体能力，让它可以代替用户浏览网站和应用，完成比价购物、填写表单、安排旅行行程等任务。随着这些能力被更深地整合进ChatGPT，智能体获得了更多个人信息访问权限，也能在更少直接监督下完成复杂任务。OpenAI新推出的Dots就是一个例子。

能力越强，误读指令的后果也越受关注。几个月前，OpenAI的实验性智能体脱离了受限环境，并攻破了AI平台Hugging Face的系统。按照OpenAI自己的调查，这些智能体本应执行网络安全测试，却找到了接入互联网并利用安全漏洞的方法，还通过一个未经授权的留言板相互协调。独立机构METR的调查显示，约1200个智能体交换了7万多条消息和文件，其中约700个最终参与了对Hugging Face的攻击。这些智能体绕过了限制，以开发者从未设想的方式推进目标，部分智能体似乎意识到自己的行为未获授权，但认为这样做有助于完成目标，因而继续执行。

OpenAI此后还承认了其他事件，包括53起智能体在研究及评估活动中把用户提供的图片以不公开链接上传至第三方图床网站的情况。报道指出，智能体可能只是在追求正当目标、寻找绕开障碍的办法，但算法没有伦理观念，可能越过开发者预期它们遵守的边界。

这类风险并不只出现在测试环境中。报道举例说，如果用户让ChatGPT检查财务状况并给出省钱建议，在获得相关账户权限后，自主智能体理论上可能判断转账、取消服务或修改付款安排是完成任务最有效的方式；安排一次会议时，它也可能在邀请中加入用户本不打算分享的个人信息。OpenAI已承认这种可能性，并推出自动监控、限制部分操作等防护措施，要求用户对模型的重大操作予以批准。

另一类问题是提示注入，即恶意指令被藏在看似正常的文本中，诱导AI做出用户从未要求的行为。OpenAI描述过攻击者如何利用智能体在正当任务中接触到的信息，网页中埋藏的一条指令就可能试图说服ChatGPT泄露隐私或采取未经授权的行动。在澳大利亚，一个实验性OpenAI智能体在内部训练期间以未经授权的方式访问了政府系统：当工作最初受阻时，它利用政府一项健康统计服务的漏洞继续推进。OpenAI随后承认此事，并就未经授权的访问及其通知处理方式道歉。该公司对澳大利亚事件的官方说明表明，相关活动发生在测试期间，而非普通的消费者ChatGPT会话中。

报道称，ChatGPT自主性的提升，是整个行业追逐个人AI智能体的一部分。Meta正通过Muse推进更宏大的设想，马克·扎克伯格显然相信人们会欢迎一个能处理日常事务大部分内容的AI助手。