据MarkTechPost 10月27日报道,vLLM Semantic Router团队发布d3-ultra,这是一个27B、Apache-2.0许可的多模态决策模型。该模型不生成文本,而是单次读取文本、JSON、图像或视频输入,并为每个问题返回概率,可用于路由、分类、视觉定位和视频检查。

d3-ultra参数量为26.09B,采用稠密结构,其中包含0.46B视觉编码器,每题支持131,072个token上下文。团队在1块AMD Instinct MI325X上以BF16权重完成测试,目前尚未列出官方量化版本。模型卡显示其采用Qwen3.5架构骨干,共64层,其中48层为线性注意力层、16层为全注意力层,但未注明基础检查点;vLLM的配方称同系列d3由Qwen3.8-27B训练。

该模型的问题类型包括选择、是或否、打分、框选和跟踪,图片也可以放在问题和选项中。框选答案始终返回一个框及置信度,置信度接近0表示目标不在图中。超过131,072个token的问题会以max_length_exceeded失败,不会被静默截断。

团队在两项内部测试中比较了d3-ultra与GLiDE V1.2、d1-ultra、d3-turbo、d3和Jev 1.14。SR-Text包含10,411条文本请求、73,495个问题,分数按机会校正,0代表随机、100代表满分;d3-ultra得分87.2,高于GLiDE V1.2的85.1、d1-ultra的83.4、d3-turbo的83.1、d3的81.4和Jev 1.14的73.1。除艺术与人类品味外,d3-ultra在其余领域领先;艺术与人类品味一项,d1-ultra为90.8,d3-ultra为89.6,差异在误差范围内。

SR-Box包含4,984张图片上的5,678个框选问题,覆盖10个领域,IoU达到0.5以上才算正确。d3-ultra在10个领域得58.2%,在9个领域得54.6%;d3-turbo分别为60.0%和59.6%,Jev 1.14为45.7%和46.9%。团队称d3-turbo在自然图像上仍更强,d3-ultra在图表上领先。延迟方面,在1块AMD Instinct MI325X上使用AutoModel,针对一张照片提1个问题耗时304毫秒,提255个问题耗时2.16秒,每增加一个问题约增加7.3毫秒。

部署方式包括通过Transformers加载,使用AutoModel.from_pretrained("vllm-sr/d3-ultra", trust_remote_code=True),需transformers==5.17.0,可选flash-linear-attention提供GPU快速内核;也可通过vLLM Semantic Router Engine运行vllm-sr serve -e vllm-sr/d3-ultra,该支持在2026年10月25日的PR #5449中加入。模型卡称decision.vllm-sr.ai提供免费API和免费密钥,官方Hugging Face Space提供演示。上述基准结果均为团队自行报告,测试集不公开。