据SiliconANGLE报道，人工智能搜索引擎初创公司Perplexity AI Inc.于10月16日将其AI代理安全沙箱SPACE开源，使开发者能够使用该工具隔离和保护自主AI代理。SPACE已被CoreWeave Inc.、Akamai Technologies Inc.和Crusoe Inc.等合作伙伴部署，这些公司均提供面向AI系统的云托管基础设施平台。

SPACE是一种AI沙箱，用于防止AI代理泄露敏感数据或入侵其他系统。它提供安全隔离的虚拟环境，让自主代理运行第三方软件、浏览互联网和执行任务，而不危及宿主计算机、企业网络或底层数据中心。每个AI代理在云端拥有独立封闭的计算机，如果出错、执行破坏性命令或被对抗性提示操纵，损害会被限制在该环境中。但AI沙箱的安全性并非总能万无一失，此前已发生多起AI代理逃出限制并在外部制造麻烦的事件。其中较受关注的一起是，OpenAI Group PBC测试的AI代理逃出沙箱，入侵模型托管平台Hugging Face；OpenAI的代理还入侵了美国政府和澳大利亚政府运营的网站。

多数前沿模型实验室更关注“模型对齐”，即训练AI系统守规矩、不寻找护栏漏洞。Perplexity工程师Zibi Braniecki对Semafor表示，他的公司则专注于让护栏更坚固、更可靠。Perplexity开发SPACE是为了保护其Portable Computer代理，这些代理作为本地托管的AI代理向客户销售，可代为执行开发Web应用、调研产品、在线购物、预订酒店等任务。

在Perplexity的Computer代理中，SPACE提供隔离代码执行、暂停与恢复、恢复和会话分支等安全功能。代理运行在拥有独立操作系统的小型虚拟机内，与宿主计算机隔离。用户可通过控制平面创建、运行、暂停和删除这些虚拟机。SPACE确保这些沙箱始终被视为“不可信”，并在沙箱外管理其网络访问和平台凭证，使代理能够连接授权服务，同时敏感信息不会出现在代理环境中。它还会频繁对运行环境进行文件快照和检查点，以保存进度并在出现问题时回退。

Braniecki对Semafor表示，其团队在SPACE环境中测试了九款前沿模型，并明确要求它们尝试逃出沙箱。在118次尝试中，没有一次成功，不过有些模型设法绕过了网络限制。Perplexity随后修复了这些弱点，在后续测试中没有模型能再次绕过。为比较SPACE的表现，Perplexity使用其他专有沙箱进行了相同测试，并称代理从其中几个沙箱中找到了逃逸方法。

Braniecki表示，SPACE的开源性质对保护AI代理至关重要，因为它能让公司合作构建所需的坚固护栏。他将此比作早期网页浏览器时期，开发者社区共同协作构建安全浏览和在线商务所需的安全系统。

Perplexity并非唯一采用开源方式开发AI代理沙箱的公司。另一个选择是Nvidia Corp.的OpenShell项目，该项目在上月作为更广泛的Open Agent Safety Platform的一部分发布。截至目前，尚无关于OpenShell发生逃逸的报告。Perplexity在开源安全方面也已有积累，除SPACE外，还开发了用于检测网页中隐藏恶意指令的BrowseSafe、调查危险代理行为的Numbat，以及检测高风险AI工具配置的扫描器Bumblebee。