据SiliconANGLE报道,CrowdStrike在近日举行的Fal.Con大会上宣布推出AI安全产品Falcon Guardian。该产品源自公司对Pangea的收购,与Agentic IdP身份管理功能配合,用于限制AI代理在出错时可以触及的资源范围,即业内所称的“爆炸半径”。
报道称,一个AI代理即使没有恶意,也可能在自主推理时进入错误系统。例如,一个处理财务报告的人工智能代理,可能自行请求访问它本不该接触的代码仓库。因此,控制代理的爆炸半径已成为企业安全领域的一大难题。
CrowdStrike首席产品官AJ Shipley在大会新闻发布会上表示,过去主要的攻击面是一个坐在键盘前的人,通过浏览器向聊天代理输入提示并获取回复,因此首先要获得环境中所有AI代理的可见性。Falcon Guardian正是提供这一可见性层的产品。
Shipley用一个假设场景说明Falcon Guardian与Agentic IdP的协同:财务部门员工请AI助手生成报告,代理却推理并请求进入开发者代码仓库。Agentic IdP为每个代理分配唯一身份,且仅在任务进行期间授予权限,因此代理所拥有的权限永远不会超过发起任务的员工。他还提到,在Hugging Face平台上,可能有1000至1400个代理同时处理同一个问题,Guardian可以实时呈现这些代理的行为,并通过Agentic IdP为每个代理设置独立标识,防止它们在没有足够权限时相互协作访问系统。
Shipley承认这套体系并非无懈可击。被问及是否存在针对失控代理的“紧急停止开关”时,他说CrowdStrike目前没有客户预期的那种形式的开关,但这一问题值得探索。他强调责任由供应商与客户共同承担,客户需要提供资产关键性等背景信息,系统才能做出更佳决策。
报道称,这是AJ Shipley今年首次参与theCUBE的Fal.Con大会报道。