据TechRadar报道,AMD正在开发一款面向AI代理的机架级计算系统Helion Agentic AI Rack,计划于2026年11月上市。该系统单机架最高可配置32768个Zen 6 x86 CPU核心、16个Instinct MI350P加速器,并提供74 petaflops的FP4计算性能。

AMD将该平台的代理工作负载分为个人助理、企业应用和技术计算三类。个人代理需要高密度、高能效服务器;企业应用需在代理容量与性能之间取得平衡;技术计算则优先考虑处理速度。AMD允许运营方按工作负载定制CPU核心密度、处理性能和功耗。

个人代理配置使用256核Venice处理器,功耗400瓦,侧重处理密度和能效。企业工作负载使用256核Venice处理器,功耗600瓦;技术计算使用96核高频Venice处理器。超大规模配置采用纯CPU基础设施,企业版本则在集成机架内组合处理器和图形加速器。企业配置将代理执行、推理和通用计算拆分到不同服务器节点:CPU沙箱节点负责代理执行,Instinct MI350P加速器支持推理,通用服务器承载数据库、存储和技术计算。

该机架还集成token路由器,用于在前沿模型和开源模型之间引导代理模型请求。平台支持102 Tbps网络带宽、可编程网络和开源软件生态,并采用符合Open Compute Project规范的ORv3 44OU硬件。AMD未披露完整设施升级成本或冷却要求。

TechRadar报道称,传统数据中心按标准云或传统企业计算建设,未必具备容纳最高32768个Zen 6 CPU核心并搭配大量GPU配置的供电、冷却和网络能力。个人代理、企业应用和技术计算的不同处理需求,也让数据中心需要为256核密集处理器与96核高频系统等不同服务器类型分配机架空间、电力和冷却,而不是部署完全相同的系统。若现有设施无法支持高核心数与高频服务器的组合,运营方可能需要改造。102 Tbps带宽和可编程token路由器还要求兼容的网络设备与软件,以支持相应吞吐量并在不同AI系统间路由模型请求。