据 Hugging Face 博客10月16日发布的消息,NVIDIA 与印度理工学院马德拉斯分校的 AI4Bharat 实验室宣布,即将发布 Nemotron-pretraining-Indic-v1,规模约2.8万亿 token,覆盖22种印度语言,并同步开放用于生成该语料的 GPU 加速数据生成流程。

这22种语言为印度宪法列出的语言,是97%印度人的第一语言;按2011年人口普查,接近12亿公民。该语料由 NVIDIA 与 IIT Madras 及其 AI4Bharat 实验室共同开发。

开放的数据生成流程包含完整生成配方,包括提示词、大语言模型工作流和质量检查,开发者可以据此适配自己的源材料并生成更多数据。AI4Bharat 是 IIT Madras 的印度语言研究实验室,曾构建 Sangraha 等面向22种印度语言的开源预训练语料。

语料包含2601.0十亿 native-script token 和224.6十亿 romanized token,计数使用 Gemma-4 tokenizer。文档记录包括共享来源的翻译和文字变体,不是唯一英文文档数量。语料覆盖34种语言-文字配置:孟加拉语、古吉拉特语、印地语、卡纳达语、马拉雅拉姆语、马拉地语、尼泊尔语、奥里亚语、旁遮普语、泰米尔语、泰卢固语和乌尔都语同时有 native-script 与 romanized 数据;阿萨姆语、博多语、多格拉语、克什米尔语、孔卡尼语、迈蒂利语、曼尼普尔语、梵语、桑塔利语和信德语仅有 native-script 数据。

材料解释,native-script 指书写系统,文本仍从英文翻译;romanized 指用拉丁字母书写的印度语言文本,不是英文翻译。对于12种双书写系统语言,romanization 覆盖已接受 native-script 翻译的子集。这一区分对构建训练混合重要:native 和 romanized 记录提供不同文字暴露,但可表达相同底层内容。Token 计数描述的是保留语料,包括接受的改写,而不是一次训练运行的 token 预算;计数也取决于所用 tokenizer,因此语料清单和训练 token 计数应分开理解。

构建语料时,团队从15个 Nemotron-CC-v2 子集开始,覆盖网络文本、问答材料、数学、代码和其他专业内容,并使用 NVIDIA 开源合成数据框架 NeMo Data Designer 执行翻译、质量检查和定向修复。工作流保留每个源标识符,使开发者可以把输出追溯到原始文档,每个输出还对照输入检查,以便合成文本保持基于真实信息。这一过程把经过筛选的英文材料,包括数学、代码和问答内容,引入印度语言。

AI4Bharat 负责人 Mitesh Khapra 入选2025 TIME100 AI。他此前指出核心问题:印度语言技术落后英语,因为“我们没有足够的印度语言数据”。此次发布以更多数据和开放生成配方回应这一缺口。语料也补充自然编写的 Indic 文本,后者对本地知识和文化语境仍然关键。

Nemotron 3.5 Super VL 的持续预训练增加了100亿 Indic token,来自该语料的12种语言子集以及自然 Indic 文本。相关技术报告覆盖完整过程。团队计划在未来 Nemotron 模型中继续基于该语料构建,并希望通过开放数据和流程,让大规模 Indic 数据生成更易获得,使更多开发者参与构建印度语言模型。