据雷峰网报道,一场版权官司近日意外曝光 Anthropic 一份名为《Concise Research Roadmap》的内部机密文件。这份由联合创始人 Jared Kaplan 在 2021 年撰写、仅三四页的路线图,已列出 Coding Agent、Tool Use、长上下文、强化学习、自动化反馈以及 Agent 安全等议题,并汇集多位核心成员批注。当时 Anthropic 刚成立半年,全部融资仅 1.24 亿美元,距离 ChatGPT 发布还有 16 个月,距离 Claude 1 发布还有 20 个月。
报道称,Anthropic 在文档中明确把“做有长记忆能力的大型生成式模型”和“结合自动化奖励与人类反馈的强化学习微调”作为 AGI 核心路径,并把“对话式软件工程师助手”视为第一个载体。Dario Amodei 为此定下节奏:“短期先演示工具使用,长期打造最强编程助手。” Tom Brown 指出“仓库浏览是简单、高价值的切入点”,Nelson Elhage 预判“自动查找项目里的类型定义”会是极具用户价值的功能。
对齐科学家 Amanda Askell 提出:“如果只在自然语言领域做对齐,却在代码领域做能力研究,势必产生脱节。”她强调安全与能力在任何阶段都必须紧密绑定。报道称,这一原则后来贯穿人类反馈训练、奖励模型校验等安排。
路线图还把“规模化”放在首位。Jared Kaplan 是 Scaling Laws 理论第一作者,团队早期就思考训练万亿乃至更大规模模型,拉高 GPU 利用率,适配 TPU、Trainium 等下一代硬件,并为模型权重等核心资产建立安全防护。预训练与数据方面,他们计划训练语言与代码双料基座模型,搭建覆盖自然语言、代码、Diff、PR、调试记录和代码运行评估结果的链路。可解释性也被列为长期方向,Christopher Olah 拆解神经元、注意力头与内部功能回路,并主张把数据、工具研究与可解释性结合。
安全讨论同样出现在早期。Sam McCandlish 当时提出“怎么安全地部署非沙箱化工具?”Dario Amodei 预警,部署阶段可直接执行代码的工具风险极高。报道称,如今 Agent 领域关注的沙箱隔离、权限拦截,已在当年的推演之中。
后续进展方面,报道列举:2022 年底 ChatGPT 凭借 RLHF 爆火后,Anthropic 在半个月后发表论文提出“宪法 AI”;2023 年 3 月第一代 Claude 对外合作,5 月把上下文窗口从 9K 扩到 100K token,9 月发布首版《负责任的缩放政策》,10 月 Google 领投后估值站上 184 亿美元;2024 年 Claude 3 系列推出三款产品并补齐多模态能力,旗舰 Opus 默认支持 100K 处理长度,Claude 3.5 Sonnet 在 SWE-bench Verified 上超过当时所有闭源竞争对手。
报道称,五年后的 Claude 已能一次处理 1M token 长文本,并出现适配工程场景的记忆优化方法。同一报道在回顾中既提到大模型迭代到 Opus 5,也提到 Opus 5.5,未进一步解释版本差异。报道称,2021 年路线图中的 Coding Agent、工具使用、长上下文、RL、安全对齐与可解释性等分支,后来在 Anthropic 的产品与研究安排中继续出现。