据TechRadar报道,GEEKOM已推出DeepSeek V4 Flash模型的四节点部署方案,将四台A9 Mega迷你PC通过USB4线缆连接,组成分布式集群,面向企业级AI工作负载。该方案无需传统数据中心服务器,每台A9 Mega搭载AMD Ryzen AI Max+ 395处理器,集成16个Zen 5 CPU核心、Radeon 8060S显卡和统一内存。

四节点配置提供总计512GB内存,系统使用Ubuntu、ROCm和DwarfStar软件在四台机器间分配优化后的模型。集群通过OpenAI兼容API连接应用程序和AI代理,USB4连接方式省去了专用交换机或服务器机架。这种安排允许企业将提示词、文档、源代码和凭据保留在本地基础设施中,而非经由公共云传输。企业可以构建私有知识助手,用于搜索合同、手册和内部报告,无需外部暴露。

对于基于代理的系统,GEEKOM表示该集群可以在执行操作前处理工具、策略、内存和日志,技术路径已支持最高25万token的上下文。GEEKOM报告的测试结果显示,单并发下约每秒处理14.61个token,P95首次token延迟约0.42秒。该公司称,该配置还提供了更大的长提示词处理能力,而非仅专注于更快的短回复生成。

用户可以从一台或两台A9 Mega系统开始,随着工作负载增加逐步扩展到四节点。每台机器可独立运行,在需要更高计算能力时,连接的系统可参与分布式推理。A9 Mega迷你PC单台最高支持128GB LPDDR5x内存,四台系统提供上述512GB集群容量。其规格包括120W持续性能、双M.2 PCIe Gen4x4存储插槽,以及最高8TB RAID配置存储。

GEEKOM将配备128GB内存和2TB SSD的A9 Mega标价3999美元,四系统集群总价1.6万美元。单个单元合计提供126 TOPS处理能力,持续热设计功耗为120W。设备还支持Wi-Fi 7、蓝牙5.4、双2.5G以太网和四路8K显示输出。上述性能数值由供应商提供,未经第三方测试,因此该配置在持续企业使用中的实际可靠性尚未得到独立确认。