据爱范儿报道,记忆张量2026年10月20日发布并开源记忆原生大模型 MemT 1.0。该模型将记忆状态内化进底层架构,并通过训练学习读写、更新和调用记忆,使交互中积累的信息直接参与后续生成计算,区别于外挂检索方案。

MemT 1.0 将模型能力拆为主干网络和动态记忆状态。主干网络承载通用认知,动态记忆状态在不同用户或任务间独立存在,在持续交互中吸收新信息。每轮对话结束后,模型通过 token 级更新机制刷新记忆状态,由训练得到的门控机制决定保留或覆盖哪些内容;后续任务中,并行记忆注意力机制提取这些状态参与当前计算。团队用340亿 token 数据训练该机制,其中200亿用于继续预训练,140亿用于后训练;记忆状态采用固定体积,并引入 Mixture-of-Storage 架构分配存储读写。

技术报告称,在11项系统记忆基准测试中,闭卷作答的 MemT-1.0-Flash 和 MemT-1.0-Nano 均分分别为50.6和47.0,分别领先同组最强参数化记忆基线12.5分和8.9分。消融实验显示,拿掉后训练后 Nano 均分从47.0降至36.3;MoS 记忆专家从2个增至4个,均分最高提升2.7分。测试中,约16K token 历史内用户未提供生日时,模型回答不知道;在3.3万 token 对话中,模型依据早先规则核对徽章与登记状态,判断两人中一人合规、一人未登记。

编程任务上,团队从数万条成功轨迹提炼上千条可复用经验,筛出4.2万余条“无经验做错、补上经验后成功”的样本训练 Nano 的记忆原生模块。SWE-bench Verified 的500项任务中,提前写入经验的 Nano 平均成功率从66.07%升至69.33%,三次全成率从54.00%升至61.60%。实战模式下,模型先独立做题,遇到报错、空返回或连续三次原地打转时写入匹配经验,平均成功率和三次全成率分别为69.73%和62.80%;在 SWE-bench Multilingual 的300项任务中,平均成功率从60.00%升至63.56%,三次全成率从45.33%升至55.33%。

技术报告还称,在双 GPU、单并发、batch size 为1的条件下,处理64K token 历史时,Nano 相对完整上下文方案的端到端推理速度约为1.20倍;历史增至128K和256K token 时,分别约为1.86倍和3.99倍。128K token 历史下,恢复单条交互历史所需的持久状态存储约为完整上下文 KV cache 的六十六分之一,不计共享模型权重。

报道称,MemT 1.0 面向长周期陪伴和团队经验复用等场景,真实业务反馈可持续刷新外部经验库,模型则将团队规范逐步内化。记忆张量此前做过 Memory³ 分层研究和 MemOS 系统探索,MemT 1.0 是其将记忆放入底层架构的新版本。