据 MarkTechPost 报道,Knowledgator Engineering 于 2026 年 9 月 16 日发布 GLiFormer,这是一种按推理时标签和抽取模式工作的编码器框架。单一模型可处理命名实体识别、文本分类、关系抽取、嵌套 JSON 结构化和文本嵌入;Base v1 与 Large v1 已在 Hugging Face 以 Apache 2.0 许可开放,可通过 pip install gliformer 安装,并在 CPU 或 GPU 上运行。
Base v1 有 264.2M 参数,Large v1 有 575.6M 参数。它针对抽取系统常把多个模型串成流水线的问题。研究团队认为这些任务共享同一核心操作:编码源文本、表示被请求的概念,再为二者兼容性打分。大语言模型可输出嵌套 JSON,但需要逐 token 生成字段名、标点和值;GLiFormer 将输出生成从这条路径中移除。
该框架建立在 GLiNER 之上,通过“锚点”推广标签匹配。每个运行时标签针对一个锚点打分,锚点可以是分类的组向量、关系的实体对或记录槽位。源文本只编码一次,同一文档的多个 schema 随后作为任务局部组在共享编码上运行;头部计算量仍随组、标签和锚点数量增长。在 NER 中,头部为每个 token 和标签对打分起始、结束和内部证据,独立 sigmoid 输出允许嵌套提及和共享边界共存。结构化分 4 个阶段:先从源文本定位字段值片段,再用匈牙利匹配把片段分配给无序记录槽位,然后预测受 schema 允许路径限制的有向父子链接,最后用确定性解码器组装嵌套 JSON。由于值是源文本片段,模型不能编造输入中缺失的值文本,但片段选择、记录分配和层级仍可能出错。
两个 v1 检查点都采用 gliformer-layout 模型类型,配置 NER、分类、联合关系、多层级结构化和嵌入 5 个任务头,并设置 12 词最大片段宽度和 100 个记录锚点。Large v1 为 24 层、1024 维嵌入、最大长度 8192;Base v1 为 12 层、768 维嵌入、最大长度 16384。GLiFormer-base 从 DeBERTa 骨干开始,并在 1000 亿 token 上进一步预训练。论文记录了 1,357,671 个多任务训练样本和 372,090 个任务聚焦后训练样本。
Knowledgator 报告,在 500 个样本的嵌套 JSON 测试中,Large 得 91.10 F1,Base 得 87.20;GPT-5.6-luna 得 91.96,GPT-5-mini 得 82.56。该指标不要求顺序,且容忍边界差异,并非精确 JSON 匹配。在 13 个分类数据集上,Large 平均宏 F1 为 75.03,Base 为 72.36,GLiNER2.5 为 64.89,GPT-5-mini 为 79.79。CrossNER 的 5 个领域上,Base 平均 65.10 F1,Large 为 64.35,Gemma-4-31B-IT 为 70.74。关系抽取的 4 个基准上,Large 平均 21.33 micro-F1,Base 为 18.94,GLiNER-Relex 为 25.6,Gemma-4-31B-IT 为 25.08。论文称,在 NER 和分类的合并汇总中,Large 以约少 14 倍的参数量超过 Gemma-4-E4B。
速度方面,Knowledgator 在批大小为 1 时对 40 份结构化文档测试 GLiFormer-base。在 NVIDIA RTX PRO 6000 Blackwell GPU 上使用 FP16,中位延迟为 69 毫秒;在 8 线程 AMD EPYC 9B45 CPU 上使用 FP32,中位延迟为 547 毫秒。其“最高快 95.8 倍”是分析估算,不是实测的大模型运行结果,假设预填充每秒 2000 输入 token、生成每秒 60 输出 token,不包含排队、网络延迟和隐藏推理,也不假设准确率相当。GitHub 仓库和模型卡给出的调用示例是向 model.structure 传入“Alice works at Acme.”及 employee 下 name 和 company 的 schema,返回 name 为 Alice、company 为 Acme 的记录;关系任务应使用 joint_relations,因为 v1 没有开放关系头。