据Hugging Face博客10月13日消息,Liquid AI发布LFM2.5-24B-A2B。这是一款面向设备端、强调快速与私密的智能体模型,基于LFM2-24B-A2B构建,目标是让需要推理、调用工具的应用在本地可靠运行。
LFM2.5-24B-A2B保留前代架构:40层,每个MoE块包含64个专家并采用top-4路由,混合门控短卷积和GQA。其上下文窗口从32K扩展到131K tokens,并通过原地词表扩展将词表从65K翻倍至128K tokens,以改善非拉丁语种分词。与上一代不同,它是纯推理模型,会在最终答案前生成显式思维链;推理时每token仅激活2B参数。
预训练规模从约17T tokens扩大到约33T tokens。中期训练在32K上下文加入2T tokens,侧重推理、数学、代码、指令遵循和多语言文本,并在131K上下文加入300B tokens,侧重长上下文数据。工具调用和多轮轨迹贯穿这两个阶段。后训练分五阶段:监督微调、教师专业化、非智能体多域在线策略蒸馏、智能体多域在线策略蒸馏,以及在OpenClaw、Hermes Agent、Pi和OpenCode等智能体框架内进行智能体强化学习。
Liquid AI将LFM2.5-24B-A2B与Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it和Nemotron-3.5-Lightning在16项基准上比较,覆盖工具使用、智能体工作流、知识、指令遵循、数学和编码。它是这组模型中参数最少的,但与总参数和激活参数多约50%的MoE模型竞争。在8项工具使用和智能体基准中,它在AutomationBench、BFCLv4、ToolSandbox、LiveClaw和τ³-Bench Banking五项领先或持平;LiveClaw得分为48.09,Qwen3.6-35B-A3B为38.19。AutomationBench得分为27.69,超过次优模型三倍以上。它在三项指令遵循基准中也领先。
在知识密集的GPQA Diamond、HLE、AA-Omniscience,以及编码基准SWE-Bench Verified(OpenCode)和SciCode上,更大模型仍保持优势。Liquid AI建议将LFM2.5-24B-A2B与检索或网络搜索配合,用于知识密集型工作负载。
官方称,该模型发布首日即获得llama.cpp、MLX、vLLM、SGLang和ONNX支持。在端侧,它是所比较MoE中最快的,在苹果M5 Max上解码184 tokens/s,在Ryzen AI Max+ 395上解码114 tokens/s,比次优模型快至多1.7倍,同时占用内存最少。在GPU侧,它在单个NVIDIA B300上高并发时输出超过21K tokens/s,是同尺寸级别中最快的模型。使用需安装最新版transformers,兼容transformers>=5.0.0。