Hugging Face发布14.8B开放DNA语言模型Carbon-X

据MarkTechPost报道，Hugging Face发布开放DNA语言模型Carbon-X，参数规模14.8B，权重以Apache 2.0许可开放。该模型来自Hugging Face Bio，可在聊天中读取原始DNA并用英文回答，能够预测突变属于良性还是致病、标记调控区域、分类生物以及预测下一个碱基。

Carbon-X基于Qwen3-14B构建，采用单一解码器，DNA与文本共享一个token流，没有独立的DNA编码器。其混合分词器保留Qwen3的BPE文本词表，并加入5515个DNA token，其中包括4096个不重叠的6-mer、1364个尾部token和3个标记；一个DNA token覆盖6个碱基对。模型上下文长度为40960，可在单张80GB GPU上以bfloat16通过vLLM或Transformers运行；官方GGUF版本中，Q8_0为15.8GB，Q4_K_M为9.6GB。Hugging Face与中关村学院、TIGEM/那不勒斯费德里科二世大学合作构建了该模型，Apache 2.0许可允许实验室将敏感序列保留在自有GPU上。

据模型卡信息，训练分为四个阶段：约10B token的嵌入预热、302B token的中期训练、3轮SFT，以及两轮使用TRL和vLLM的异步GRPO强化学习。发布文章称，学习率是最难调整的参数：较高学习率能让模型学会DNA但会忘记英文，较低学习率、14B模型和较长训练解决了这一权衡；直接对Qwen3-14B应用强化学习，在FrontierVEP上从未超过50%的随机基线。

Hugging Face自报，Carbon-X在5项DNA基准上平均得分66.7%，为受测开放模型中最好；其中BioReason Coding为74.9%，GenomeQA剪接位点问题最差，为29.8%。Carbon-X比Qwen3-14B高27个百分点，比GPT-6.1 Sol低0.8个百分点。它在编码变异效应和下一碱基预测上领先，但复杂变异和单碱基变异仍由前沿模型占优。测试中Carbon-X关闭thinking，竞品以最佳推理努力运行；拒绝回答会影响分数，例如Opus 5.5在NextBase上从低努力的17.7%降至最高努力的1.1%，Gemini 4 Argon在FrontierVEP上从58%降至38%。Carbon-X在IFEval上的提示级严格准确率为79.3%。