据SiliconANGLE 10月27日报道,Akamai Technologies宣布扩展其AI Cloud平台,新增Akamai Inference和Akamai Agent Sandbox两个基础组件,使企业可在从云数据中心到网络边缘的基础设施上运行和隔离AI推理与自主智能体工作负载。Akamai称,这两个组件补上了推理和执行层,将其AI基础设施扩展为完整AI堆栈。
Akamai Inference是一项托管服务,通过OpenAI兼容的应用程序编程接口提供对数十个开放权重和定制AI模型的访问。上线时企业可从12个开放权重模型中选择,参数规模从80亿到2.8万亿,包括英伟达的Nemotron 3 Ultra、OpenAI的gpt-oss-120b和谷歌的Gemma 4。该服务还提供用于检索增强生成管道的专用嵌入模型,用于把开放权重模型与Akamai托管数据库服务连接,使模型回答基于企业数据。Akamai表示,该服务的主要优势是让团队无需重写代码即可在边缘部署新的AI应用和智能体。
Akamai Agent Sandbox则面向安全执行,是为代表用户自主运行的AI智能体提供的隔离执行空间。在沙箱内,AI智能体运行在Akamai Functions上,代码被包含在由开源Spin框架管理的隔离WebAssembly环境中。企业可对智能体的计算、内存、系统API和出站网络访问实施细粒度控制,以确保其不越界。
Akamai Cloud首席运营官兼总经理Adam Karon表示,公司相信推理将成为绝大多数企业未来的主要关注点。“我们的客户已经证明了这一判断,”他说,“他们希望在同一平台上构建、运行和保护AI。”他称,新组件增加了推理和执行层,而Akamai的安全产品组合保护每一层。
Akamai Cloud平台提供计算、云存储、网络和安全服务,并从超过4350个边缘位置提供多种GPU和AI加速器选择。Akamai还表示,正在扩展AI Cloud内的GPU平台阵容,现已提供英伟达Blackwell Ultra集群,尤其是RTX PRO 6000 Blackwell服务器版GPU。每个八GPU Blackwell Ultra节点提供最高2.3TB的HBM3e总内存,可支持长上下文推理。Akamai计划于明年进一步引入英伟达下一代Vera Rubin GPU平台。