据雷峰网9月3日报道,Hugging Face旗下Pollen Robotics近日发布一款25厘米高、售价399美元的开源双足机器人Microduck。该机器人重约800克,能行走、坐下、踢球、抓取,摔倒后还能自行爬起。报道称,其意义不止于让低价机器人进入普通开发者桌面,更提示AI正从屏幕里的云端模型走向会感知、会行动的实体设备。

Microduck是一款面向开发者的开源机器人平台,用户可在仿真环境中训练动作策略,再部署到真实机器人上。报道提到,设备一旦进入真实世界,就要回答本地响应、离线运行、隐私数据不上传、功耗散热能否被终端接受、成本能否支撑规模化等问题。Microduck以“小模型、小芯片、小机器人”的方式展示了另一种可能性:智能设备不一定从手机、PC、汽车等大入口开始,也可能先从桌面、教育、家庭陪伴、轻量机器人等更小场景里生长出来。

“小鸭子”火了之后,端侧AI还面对更“大”的问题。报道指出,当设备需要复杂对话、长期记忆、知识检索、多模态理解和智能体任务时,大模型能不能也在端边侧跑起来,是端侧AI从“能用”走向“好用”的分水岭。目前国内很多端侧AI应用仍以小模型和固定任务推理为主,能实现语音唤醒、图像识别、简单问答等,但还不足以成为真正的智能体。未来的AI PC、个人AI主机、家庭智能终端、机器人、工业边缘设备,都需要在本地运行更复杂的大模型,并在无网或弱网环境下稳定工作。

针对这一需求,存算一体芯片公司后摩智能推出后摩漫界M50芯片。公开资料显示,M50基于存算一体架构,典型功耗约10W,可提供160TOPS@INT8、100TFLOPS@bFP16算力,并配套M.2卡、PCIe加速卡、计算盒子等产品形态。后摩智能认为,云端仍然重要,但要让AI进入真实产业场景,必须有部分智能在端边侧完成,尤其是机器人、AI PC、智能会议、政企办公、工业现场和家庭终端场景。

M50已出现在真实终端产品中。今年5月,联想发布AI主机P7,搭载后摩M50,在约300克的机身内支持最高1220亿参数本地大模型运行,无网环境下本地推理速度可达50 Tokens/s。同月,长城N90 Pro全栈自主AI笔记本也搭载后摩M50,以160TOPS端侧算力支持35B大模型离线运行,面向智能文档写作、离线问答、会议记录、灵感速记等办公场景。后摩还在中国移动生态中展示过端边大模型本地部署方案,覆盖AI公文写作、会议助手、知识问答、泛安防和视联网大屏超分等方向。

这些案例表明,端边大模型的落地依赖芯片同时解决功耗和算力问题。端侧设备最稀缺的不是绝对算力,而是可用算力,即高算力之外还要省电、稳定、低延迟,并能装进真实终端。传统芯片架构中,大量能耗消耗在数据搬运上,模型越大,“存储墙”与“功耗墙”越明显。存算一体架构通过减少数据在存储和计算单元之间的反复搬运,把更多能耗用于AI计算,因此成为大模型能否跑进终端、能否规模化部署的前提。

报道认为,Microduck不会立刻改变机器人产业,却提供了一个观察窗口:AI不会永远停留在云端,也不会只存在于手机和电脑屏幕里,它会进入办公桌、会议室、家庭、工厂和城市边缘设备。下一阶段端侧AI既需要小模型让设备更轻、更便宜,也需要端边大模型让设备更聪明、更自主。真正值得追问的问题是,当AI走向真实世界,大模型能否在端边侧真正跑起来。