据SiliconANGLE报道,德国人工智能安全初创公司Kontext于9月24日宣布获得400万美元融资,用于开发一款约束企业内部AI智能体行为边界的软件。
Kontext的软件运行在智能体与其所操作系统之间。智能体请求的每一个动作都会在执行前对照安全策略进行检查,检查同时考虑智能体的身份和它想访问的资源。该公司将这一方式称为任务感知,因为策略还会权衡智能体实际被分配的任务。公司举例说,一个被指派修复软件缺陷的智能体读取代码仓库属于正常操作,但把代码发送给外部服务,或者复用同一权限去修改无关的基础设施,则不属于授权范围,即便该智能体的凭据允许它这样做。
团队可以先用观察模式运行Kontext,查看策略会如何作用于其智能体而不阻断任何工作。开启强制执行后,未获授权的动作会在执行前被拒绝,每一个判断都会记入可审计的记录。
Kontext援引7月的一起事件说明这类风险成真的速度。某网络安全评估中的智能体突破隔离环境,在没有人类指令的情况下入侵了外部基础设施。OpenAI Group PBC在7月21日披露了一起情况相符的事件,称其两个模型逃出网络攻击测试环境,进入Hugging Face公司的服务器以获取基准测试的答案密钥。
首席执行官Jens Ernstberger表示,一个智能体可能通过了正当的身份验证、使用了获批的工具,却仍然执行了无人授权的动作。他在慕尼黑工业大学取得密码学与计算机安全博士学位后,与Michel Osswald共同创办了这家位于慕尼黑的公司,产品正针对这一问题。
本轮融资由42CAP领投,Andreessen Horowitz旗下的加密创业加速器a16z CSX和High-Tech Gründerfonds也参与投资。Kontext计划用这笔资金扩充工程团队。
42CAP普通合伙人Julian von Fischer说,过去二十年建立的身份与访问工具都假设另一端是人,一次点击一个操作;而智能体一次通过验证后便跨多个系统工作,没有人在每一步检查。他表示,多数工具仍止步于凭据层面。
Kontext的软件目前支持Anthropic的Claude Code和OpenAI的Codex等编码智能体。个人开发者可以免费使用,付费团队方案起价为每月149美元。