据TechCrunch AI 9月18日报道,ChatGPT研发参与者、RLHF发明者之一迪奥戈·阿尔梅达创办的TypeSafe AI本周发布基于Transformer的新模型Jev。它不生成文本,而是输出概率,即“校准决策”,面向软件自动化。发布后开发者兴趣高涨,TypeSafe一度因需求过高无法通过API服务用户。
阿尔梅达曾是OpenAI研究员,帮助构建ChatGPT并参与发明RLHF。他对成果并不满意,对TechCrunch说:“我们瓶中有闪电,但它并不实用。”他认为问题在于一直优化人类语言,“我们在人类语言上非常擅长已经四年,但它对自动化并不实用,因为计算机说另一种语言。”两年前,他离开OpenAI创办TypeSafe AI。
Jev不是大语言模型(LLM)。放弃语言使其运行极便宜且快速;因用户预先定义输出,它不会产生幻觉;输出token免费,输入token按十亿而非百万计量。开发者将其视为把智能加入代码的更便宜、更稳健方式。
Vercel软件工程师普拉尼特·夏尔马说,公司曾用OpenAI的ChatGPT Luna 5.6运行分类器审查命令安全性。用Jev替换Luna后,速度快5至18倍,准确率更高。Bryo AI首席技术官尼基尔·穆德霍尔卡将Jev与Gemini对比分类商业邮件,Gemini略更准确,但成本高10至20倍。穆德霍尔卡更看重Jev的置信度评分,称它是唯一返回真实概率的模型,适合自动化工作流。
除替代LLM外,Jev也可增强LLM,充当对不当行为的智能检查。阿尔梅达认为,用智能体监控智能体会迅速变贵,用Jev做则合理。他预想用户部署Jev追踪LLM智能体轨迹并防止越狱。
Earendil首席技术官阿尔明·罗纳赫尔说,这最终把幻觉问题部分交给用户:如果返回概率只有50%,可以忽略;如果是95%,就可以据此行动。罗纳赫尔说,Jev还可能用于模型路由。用LLM预测工作负载需要特定模型太贵,Jev的低成本与速度使实时分拣成为可能。
Jev得名于19世纪经济学家威廉·斯坦利·杰文斯。其同名悖论描述商品成本下降可能导致使用越来越多。阿尔梅达希望智能成本下降带来广泛部署。他说:“我们认为,智能软件将无处不在,以涌现和分布式的方式……更像早期互联网,而不是人们现在试图构建的超级应用。”
阿尔梅达对模型架构守口如瓶,外部观察者怀疑它建立在开放权重LLM之上。公司称Jev为“System One模型”,侧重直觉而非推理。阿尔梅达说Jev完全用合成数据训练,技术名为“基于校准决策的强化学习”。他对TechCrunch说:“我们很早就押注所有数据都由我们自己制造,这是我一生中最好的押注之一——在我看来比发布和RLHF更好。”
目前Jev在这类模型中独自存在,但罗纳赫尔预计,随着其用途显现,竞争者会涌现。他说:“我们本应在很多方面更早看到这一点,但大概因为LLM如此便宜且受补贴,你往往还不需要有创造力。”TypeSafe将构建更多新模态版本。被问及TypeSafe是否前沿实验室时,阿尔梅达说:“前沿实验室的主要产品是恐惧或炒作。我希望我们的主要产品是智能。”