据SiliconANGLE报道,人工智能安全初创公司Lasso Security 9月2日发布AI安全护栏产品LEAP,并宣布获得3000万美元新融资。该产品可运行在普通服务器处理器上,无需图形处理芯片,旨在降低企业全量审查AI流量的成本。

Lasso称,现有AI护栏通常让每个请求经由第二个大语言模型处理,该模型必须由加速硬件支撑,无论请求是否真正危险。这迫使许多企业只能检查部分AI流量,其余部分自担风险。LEAP不使用Transformer架构,可在5毫秒内返回判定,吞吐量是现有方案的数千倍,不过这些基准数据由Lasso自行得出。

LEAP是Lasso平台的两个引擎之一。另一个引擎RAPID运行自托管模型,只对少数需要依据以自然语言写成的策略作出判断的请求进行裁决。Lasso称,相比由商业模型提供商处理同一请求,这种方式的花费只是一小部分。平台中的路由层决定请求被哪个引擎处理,因此大多数流量不会接触GPU。

Lasso联合创始人兼首席执行官Elad Schulman表示,企业是否会在客户面前部署AI的问题“已经解决”,他们现在需要的是既能检查智能体说辞、也能检查其行为的安全方案。联合创始人兼首席产品官Ophir Dror则直言,“守护智能体监管其他智能体”的概念很棒,除非你是付账单的人;在实际部署中,面对数百万个提示词和动作,这种想法根本不可行。

该公司从攻击方切入。其攻击团队对客户应用和智能体执行自动化红队测试,从单一提示词升级到自主多轮攻击,测试中发现的问题被回馈到产品。公司称,在与一家全球医疗服务机构的合作中,团队曾调取全部患者记录,并能够更改处方。

Lasso的软件部署在金融服务、保险、酒店和汽车行业客户环境中。公司表示,目前覆盖数万个智能体,每月处理数十亿条请求和操作;过去12个月收入增长超过500%,但没有披露具体金额。该公司客户包括宝马集团、e投睿集团、Fiverr国际和美国国土安全部。

融资方面,本轮由ClearSky Advisors领投,曾领投Lasso 2023年600万美元种子轮的Entrée Capital增加投资,iAngels、Singtel Innov8、Mindset和Swish Data参投。Schulman和Dror于2023年共同创立Lasso。公司表示,资金将用于扩充特拉维夫和纽约两地的工程师团队,拓展联邦机构和受监管行业客户,并扩大在北美和欧洲的销售覆盖。至今,投资者对Lasso的累计注资已超过3700万美元。