据MarkTechPost报道,Prior Labs发布表格基础模型TabPFN-3.5,该模型在单次前向传播中直接预测表格,无需按数据集训练或调参。Prior Labs称其在一项2015年Kaggle Otto Group产品分类挑战赛中,以默认设置和原始数据取得0.375的私有榜分数,优于当年冠军的0.382,并在7个表格基准测试中排名第一。
Otto挑战赛有3505支队伍争夺1万美元奖金,参赛者用93个脱敏计数特征把产品分为9类,按多分类对数损失评分,分数越低越好。冠军是曾排名Kaggle大师榜世界第一的Gilberto Titericz和Stanislav Semenov,方案为在手工特征上堆叠36个模型。AutoGluon联合创建者、Prior Labs研究员Nick Erickson称,AutoGluon在2020年论文中排名第23,AutoGluon 1.0在2023年排名第14,AutoGluon 1.6在2026年8月排名第9;从第10名到冠军的0.382还需再降0.018,接近此前从0.41降到0.40的两倍。TabPFN-3.5得0.375,运行使用原始数据和默认设置,在RTX PRO 6000 GPU上约一分钟完成,模型仅用合成数据预训练,未见过Otto或任何Kaggle数据集,可复现的Kaggle notebook已公开。
技术报告称,TabPFN-3.5在TabArena、BeyondArena、STRABLE、MulTaBench、RelArena-α、TALENT和ScoringBench排名第一,但榜首不总是基础模型。TabPFN-3.5-Thinking在TabArena、BeyondArena、STRABLE和MulTaBench居首,内部TabPFN-Rel harness预览版拿下RelArena-α。在51个数据集的TabArena上,Thinking达到1910 Elo,基础模型为1866,高于TabFM+的1823。BeyondArena覆盖142个数据集,TabPFN-3.5比此前总榜领先者高约150 Elo,调优集成的MLP仍在分组、时序和大数据切片上领先。
模型底部,上下文Transformer从512维扩大到1024维,参数从TabPFN-3分类版的5300万增至2.2亿;单个多任务检查点覆盖分类和回归;单元格编码引入学习式傅里叶特征和上下文ECDF排名;预处理移除分位数变换、稳健缩放和SVD特征;支持最多100万行,推荐6000个特征,支持2万个特征。TabPFN-3.5开放权重,默认8个估计器;Fast版开放权重,8400万参数,快至多6倍;Plus仅API和企业版,增加原生文本处理和FP8注意力;Thinking使用额外推理算力,比TabPFN-3-Thinking快至多12倍。开放权重可在本地用于研究、评估和Kaggle,生产使用需Prior Labs的API或商业许可。