据MarkTechPost于2026年10月11日报道,vLLM Semantic Router团队发布Decision 3.0多模态决策模型系列,5种尺寸均以Apache-2.0许可开放,可读取文本、JSON和图像,并直接返回概率化决策结果。

Decision 3.0不生成文本,而是返回校准概率。用户输入文本或JSON状态、可选图像以及命名问题,问题形式包括Choice、Yes/No和Scale评分;模型一次调用回答全部问题,为每个答案给出概率,供路由器与护栏按阈值使用。

该系列包括d3-lite(0.85B)、d3-nano(2.21B)、d3-mini(4.54B)、d3-flash(8.39B)和d3(26.09B),上下文长度未披露,权重为BF16,未列出官方量化版本。所有模型均为Qwen微调,27B的d3基于Qwen3.8-27B,较小4款基于Qwen3.5检查点,参数规模0.8B、2B、4B和9B。每款都带视觉编码器,d3-lite为0.10B,d3-nano与d3-mini为0.33B,d3-flash与d3为0.46B。请求可接受多张PNG、JPEG或WebP图像,每张最高1.6百万像素,每个问题都能看到全部图像,并分别进行一次前向计算。安装目标为transformers==5.17.0,可选flash-linear-attention包加速线性注意力层,加载需trust_remote_code=True。

模型卡显示,研究团队采用Jev Decision Index 0.3.1,该榜单对TypeSafe Jev决策系统的开放复现进行排名,d3数据为团队内部评测。文本方面,d3得64.1,高于Perplexity Decider v1.1的62.8和Jev的60.1;但Torchcast Decision 27B在公开套件上以65.1对64.9略高。视觉榜上,d3得71.6,Perplexity Decider v1.1为70.6。尺寸优势较明显:d3-flash(9B)得59.0,高于Decision 2.0的27B版本55.9;公开套件相对Decision 2.0提升从+8.0(27B)到+15.1(0.8B)。不过类别领先并不统一,d3-mini和d3-flash同时领先各自文本与视觉表,d3-lite文本领先但视觉排第三(41.1,低于JPT-0.8B的42.1),d3-nano视觉领先但文本以35.8低于LiquidAI d1-3B的40.1。公开视觉任务中,d3在InfographicVQA得97.3、Mind2Web得89.9,MMMU-Pro视觉为46.2,Hateful Memes审核为44.6;卡片列出的最佳成绩是KIE文档抽取97.7,最差是R-Bench-M的34.1。

延迟中位数基于单请求、单块AMD Instinct MI325X。d3-nano文本21.7毫秒、带图92.0毫秒;d3-lite为23.5毫秒和60.7毫秒;d3-mini为28.5毫秒和115.0毫秒;d3-flash为29.7毫秒和171.8毫秒;d3为84毫秒和342毫秒。所有模型均在AMD Instinct MI325X GPU上训练。

与其他决策模型相比,Featured3(vLLM SR)参数26.09B,输入文本、JSON和图像,Apache-2.0许可,决策指数64.1,视觉榜71.6,文本延迟84毫秒。Perplexity Decider v1.1参数26B,输入文本和图像,每次决策上下文8192 tokens,榜单得分62.8,视觉榜70.6。Decision 2.0 Vega-27B参数29.37B,输入文本和JSON,上下文32768 tokens,榜单55.9。LiquidAI d1-3B参数3.12B,输入文本、JSON和图像,榜单40.1,延迟9毫秒。