据TechRadar 10月19日报道,Signal65与Arm合作开展的一项评估显示,Arm的AGI CPU在七项针对代理式AI的工作负载中,建模机架级性能平均达到AMD EPYC 9755的1.99倍,单项结果介于1.43倍至3.19倍之间。该测试覆盖软件工具、自主任务执行、信息检索和AI模型服务支持等场景,包括Terminal-Bench 2和SWE-bench。
评估先测量处理器结果,再在固定功耗预算下估算整机架性能。报道指出,这一优势部分来自服务器功耗差异:在24千瓦机架中,Arm AGI CPU服务器可容纳21至23台,而双路EPYC 9755系统为13台;按评估假设,Arm可提供5712至5888个物理核心,AMD为3328个。Arm系统单机功耗为950至1050瓦,AMD双路配置额定功耗为1700瓦。由于结果部分依赖基于功耗的建模,最终量产硬件上的测试尚未完成。
按工作负载类别划分,Arm建模的机架级优势在工具类平均为1.7倍,代理式工作流为2.0倍,推理与规划为2.2倍。报告还估计,在同等处理任务下,数据库和向量搜索操作可减少30%至35%的机架数量。
另一项使用Sandbench的测试比较了Arm处理器与AMD EPYC 9965建立隔离执行环境所需的时间。Arm的冷启动快45%,热启动快27%,在四倍超订阅的最坏情况下快41%。报道称,AI代理在访问服务、运行代码和处理信息时经常创建执行环境,更快的环境建立可减少等待,但结果并不代表所有应用或完整数据中心部署都能获得同等提升。
Arm云AI执行副总裁Mohamed Awad表示:“行业需要衡量系统处理代理实际完成工作的能力。”报道称,Arm与富士通、Meta和OpenAI合作开发了评估框架,Signal65则独立验证了所报告的处理器结果。Arm同时承认,需要在最终生产系统上开展进一步测试,覆盖更多工作负载和竞争比较。
这些结果意味着,在机架功耗限制算力的代理式AI部署中,Arm服务器可能对x86基础设施形成挑战,但基准测试并未证明Arm在通用计算领域会优于x86,也不足以支持整体替换现有数据中心服务器。软件兼容性、部署成本和实际运行条件,将决定建模优势能否转化为更广泛采用。