据MarkTechPost报道,阿里巴巴Qwen团队发布QwenGyre,一个面向超长周期智能体训练的弹性强化学习框架。该框架不是模型,而是通过未修改的黑盒执行器训练编码智能体,单次rollout可持续数小时并处理接近100万token,已在Qwen 3.8 2.4T和Qwen 3.6 122B上测试。

QwenGyre是在线强化学习系统,核心思路是让闲置GPU在rollout与训练之间移动,并把分支化的智能体历史转化为有界训练样本。测试中每次rollout约70万token。系统运行在多节点GPU集群,Qwen 3.6 122B使用24至32个节点,Qwen 3.8 2.4T使用192个节点;GPU型号未披露。训练由Megatron执行,rollout由SGLang提供。

报道将“超长周期”任务定义为持续数小时、涉及数百次模型和工具交互的运行,例如按规格生成完整代码库的NL2Repo-Bench。此类任务存在长尾rollout:Colocate方案中训练等待最慢执行,GPU空转;Async方案中固定GPU池无法互相借出空闲容量。同时,Claude Code等执行器会压缩上下文、派生sub-agent并重试,一次执行变成分支树,展开全部路径会重复共享前缀并推高成本。

QwenGyre的弹性调度器把GPU分成共享训练布局的cell,每个cell可服务rollout或承载完整训练副本。核心cell持有权威权重和优化器状态,卫星cell稍后加入训练。调度器跟踪排队和运行中的执行数量,当剩余cell仍能服务在线工作时,部分cell切换至训练。模型调用通过代理改道,KV缓存块经RDMA迁移以减少前缀重算;卫星cell通过Mooncake的Transfer Engine拉取核心权重并加入进行中的批次。

轨迹处理器用token-in、token-out记录精确token ID和行为对数概率,并把调用存为前缀共享的轨迹树。超时执行仍按保留工作区部分评分,评估器失败被排除而非记为零奖励。每次执行最多保留5条轨迹,去重后共享目标只计一次,仅训练策略生成的token,损失在执行内部平均。上限5与不设上限得分相当,但前向-反向时间减少25.2%。

性能测试均使用Claude Code 2.1.220作为执行器,并保持相同GPU预算与匹配的陈旧度。与Async和Colocate相比,QwenGyre在得分相当时分别报告1.38倍至1.78倍和1.21倍至1.85倍加速。最优结果是在TerminalBench上相对Colocate取得1.85倍端到端加速;最差结果是2.4T模型上相对Colocate仅1.21倍,原因是许多查询接近超时。在Qwen 3.8 2.4T上,NL2RepoBench运行48步耗时75.42小时,Async为134.55小时,Colocate为91.47小时,评估通过率从52.48%升至58.54%。

在对比表中,QwenGyre未披露许可证和公开代码,而veRL和ReaL采用Apache-2.0,Agent Lightning采用MIT。