据SiliconANGLE报道,红帽与英伟达10月21日在柏林GTC大会上宣布扩大合作,帮助企业保护自主AI智能体、治理AI模型访问,并在英伟达即将推出的Vera Rubin数据中心基础设施上部署工作负载。合作以Red Hat AI Factory with Nvidia为核心,整合智能体运行时控制、模型推理软件及混合云环境下的硬件支持。

红帽表示,正将英伟达OpenShell参考架构作为原生能力集成到其AI平台。安全方案针对两类风险:智能体超出授权边界,以及攻击者通过提示注入或供应链攻击入侵智能体;相关控制被放在智能体之外,并在适当情况下置于主机操作系统之外。英伟达企业软件副总裁John Fanelli在声明中说:“智能体不应自行执行自己的边界。这些控制应位于智能体之外,在运行时及其下方的基础设施中。”

OpenShell提供智能体沙箱运行时。在其下方,英伟达Sentry安全框架运行于BlueField数据处理器,借助DOCA Argus软件从独立硬件安全域监控工作负载。红帽在技术博客中称,Argus检查选定的主机内存结构,以观察进程、文件和网络活动,无需在主机上安装监控软件。集成安全系统可利用告警触发BlueField策略,隔离受影响工作负载。

该架构基于OpenShift 4.22现有的BlueField-3支持,将运行在服务器CPU上的AI工作负载与运行在BlueField Arm处理器上的网络和安全服务分离。当配置为限制主机访问时,这种分离可在攻击者攻破主机的情况下保护基础设施控制。红帽称Sentry可在毫秒级隔离受感染的智能体,将监控和网络功能转移到数据处理单元也可减少主机CPU需求,为AI工作负载留出更多容量。

合作还覆盖智能体所需的模型基础设施。联合参考设计将Model-as-a-Service访问控制、AI Gateway与vLLM、llm-d、Nvidia Dynamo及Nvidia NIM微服务等推理技术结合,基于英伟达Inference Hub参考设计,支持自助模型发现、访问策略、速率限制和订阅权益跟踪。将访问治理与模型执行分离,意在帮助企业在混合环境中管理配额、核算成本并保持性能。

双方还宣布在vLLM推理与服务引擎及Red Hat AI Factory with Nvidia中联合支持英伟达Nemotron模型,包括Nemotron 3.5 Super VL。红帽强调量化和推测解码技术,目标是在保持准确性的同时降低推理延迟。

在硬件部署方面,红帽称其Enterprise Linux for Nvidia现已支持Vera CPU,并为Vera Rubin平台做好准备。双方目标是在新硬件可用时实现操作系统和平台兼容。红帽操作系统博客称,RHEL for Nvidia 26.03修改有限的核心软件包以适配新硬件,同时保留标准RHEL用户空间和安全控制,包括Security-Enhanced Linux;待硬件补丁成熟并进入上游Linux内核后,用户无需重装即可迁移到主线RHEL。

红帽表示,联合用例、参考设计和智能体能力可通过思科、戴尔科技和联想等合作伙伴获得,原生OpenShell集成仍在进行中。