据MarkTechPost 10月28日报道，Polymathic AI、普林斯顿大学、南加州大学信息科学研究所、纽约大学和Flatiron研究所的研究人员发布推测解码草稿器FlashMap。该工具用连续流图替代离散扩散草稿器，一次前向传播生成16个候选token，并在Qwen3-8B上报告GSM8K最高6.14倍无损加速。
FlashMap的草稿器规模约0.5B参数，Qwen3-8B版本为500M，Qwen3-4B版本为475M，与目标模型运行在同一块GPU上。论文中的加速数据在单张NVIDIA H200 NVL、并发1、bf16精度下测得。权重已上传Hugging Face，并提供vLLM和SGLang插件。报道称，在Qwen3-8B上，它是测试中最快的草稿器，平均比重新训练的DFlash高约7%；最佳结果为温度0时GSM8K的6.14倍加速，接受长度7.69个token，最差为温度1时Alpaca的2.28倍。Qwen3-4B在温度0下有9项任务中的4项落后于DFlash。
推测解码由小模型先提出K个token，目标模型一次并行校验全部K个并保留最长匹配前缀，输出仍与目标模型一致，速度取决于接受数量和草稿成本。EAGLE-3采用自回归草稿，成本随块长增长；DFlash用块扩散一次生成整块，但逐槽独立预测。研究团队将后者称为因子化近似：当续写可能是“new york”或“san diego”且概率相当时，独立草稿器会以一半概率提出“new diego”或“san york”，目标模型在第二个槽位拒绝。FlashMap基于Flow Map Language Models，让每个噪声样本联合决定整块各槽位的模式。
FlashMap使用6个块的扩散Transformer，嵌入维度2048、16个注意力头，读取目标模型第1、9、17、25和33层的隐藏状态，嵌入矩阵和语言模型头从目标模型复制并冻结。训练分两阶段：先训练覆盖one-hot token块的连续流教师，用交叉熵，并通过时间重参数化处理Qwen3的151,936词表；再用半群蒸馏把流变成两步去噪器，使其从噪声一步跳到数据。两个草稿器均在Open-PerfectBlend的50万样本上训练，全部模型和消融实验在H200上约耗时4,600 GPU小时。
基准测试覆盖数学、代码和聊天共9项任务，温度0和1。研究团队用相同数据和设置重新训练EAGLE-3与DFlash。一步FlashMap在Qwen3-8B所有任务、两个温度下都是最快草稿器；接受长度在18种设置中15种超过DFlash，参数约少一半。温度0时相对DFlash的增益在数学上为5.5%，聊天上为11.1%。两步模式下，接受长度在18种设置全部超过DFlash，平均高10%。温度1时EAGLE-3接受长度高9%，但运行慢35%。打乱测试显示，两步FlashMap恢复了16步教师的大部分联合结构增益，一步只保留一小部分；将4个噪声样本作为树状草稿平均提升加速11%。
部署方面，flashmap包只需torch和transformers>=4.56，可通过uv pip install flashmap安装；spec_generate调用在同一GPU上运行草稿器和目标模型。vLLM 0.31在--speculative-config中传入草稿器并将num_speculative_tokens设为16；SGLang 0.5.20使用--speculative-algorithm DSPARK和FlashMap草稿路径，num_steps=2可作取舍。