据SiliconANGLE报道,AI基础设施厂商Vast Data与AI云服务商CoreWeave于9月22日分别发布数据保护产品,前者推出可在硬件隔离环境中解密并处理模型与数据的DataEnclave,后者推出让云服务商无法持有客户密钥的Remote Key Encryption。两项服务均针对受监管行业无法将敏感数据交给外部AI服务的难题。
DataEnclave是Vast DataEngine及Vast AI操作系统中的一项新能力,采用英伟达的保密计算技术构建硬件隔离环境,使专有模型与企业数据能够被安全解密和处理。该技术使用横跨中央处理器与图形处理器的可信执行环境,对客户机内存、图形处理器内存及NVLink流量加密,同时将运行中的模型和数据与管理员、基础设施运营方及其他租户隔离。解密之前,系统通过密码学证明流程验证硬件、软件和治理策略;企业和模型开发者通过接入各自的密钥管理系统保留对密钥的控制权。
Vast Data联合创始人Jeff Denworth表示,模型权重正迅速成为全球最有价值的知识产权,基础权重决定前沿模型的价值,而微调后的权重将越来越多地代表AI驱动型企业的专有智能。他说,此前一直没有好的方案来确保人们进行计算的内存空间得到同等保护,一旦到达最终计算目的地,那个环境是否安全到足以解密世界上最敏感的数据。
该公司称,DataEnclave可部署在客户数据中心、AI云以及完全物理隔离的环境中,其证明服务基于云原生计算基金会的开源Trustee项目,也可通过Fortanix的Confidential AI提供。系统会在Vast DataBase数据仓库中记录证明事件、密钥释放和围栏生命周期活动,形成审计轨迹,同时不暴露受保护的数据或模型权重。初期模型与软件合作伙伴包括Cohere、CrowdStrike、Deepgram、The San Francisco AI Factory、Fundamental Research Labs和TwelveLabs,思科与Supermicro等硬件合作伙伴将提供集成系统。
Denworth称,该方案允许开发者的基础权重与客户的微调权重在多方租户围栏内协同运行,同时保持各自的所有权和密钥控制,从而让企业在不向基础模型供应商披露专有训练或运营数据的情况下创建定制模型。Vast初期聚焦安全与数据驻留要求特别严格的组织,Denworth点名大型银行、情报与国防机构以及制药企业为首批目标客户。该能力将包含在现有AI操作系统中而不单独收费,目前已开放预览,计划于2027年第一季度通过Vast及思科、Supermicro等硬件合作伙伴出货。
CoreWeave的Remote Key Encryption则在客户自有计算边界内完成客户端加密,密钥由客户已在使用的秘密管理器、密钥管理系统或硬件安全模块生成和保管,不导入CoreWeave侧的密钥库,公司只持有密文。节点访问受其Support Access Management控制,据公告,该公司的支持工程师未经客户明确许可无法访问这些节点。密钥轮换、过期与吊销沿用客户既有的计划和工具,CoreWeave称其通过客户基础设施驱动轮换与删除,而非另建一套控制措施,相关密钥生命周期管理方法正在申请专利,底层加密算法为通用算法。
CoreWeave企业与安全产品负责人Andy Manoske和安全基础负责人Paul Friedman在博客文章中写道,通往生产环境最快的路径不是新的安全模型,而是确保公司的安全层能够与客户已经建好的那一层流利对话。Remote Key Encryption将于今年晚些时候进入有限可用阶段,IBM为发布合作伙伴,首个版本保护CoreWeave AI对象存储上的数据,密钥存放在HashiCorp Vault、HashiCorp Vault Enterprise或任何支持密钥管理互操作协议的密钥管理或硬件安全产品中。IBM于2025年2月收购HashiCorp。CoreWeave的Fully Connected大会将于9月30日至10月1日在旧金山举行。