据量子位报道,Nature最新文章梳理了AI能否提出相对论的问题,并提出以“爱因斯坦测试”检验AI能否仅凭1911年前知识在4年后建立相对论。这一测试由诺奖得主、Google DeepMind联合创始人哈萨比斯提出,被视为检验AGI的一项有力方式。
哈萨比斯的设想是把AI送回1911年,只让它掌握爱因斯坦当时所能了解的知识,再观察它能否在1915年提出相对论。他关心的不是模型能否复述答案,而是能否直面当时的知识和物理难题,自己提出一套新的解释框架,并完成超出训练材料的推理。Nature在文章中把这类测试称为“爱因斯坦测试”。
今年3月,独立研究者Michael Hla把知识截止时间进一步提前到1900年,从零训练了一个历史语言模型GPT-1900,试图让它重新发现光量子、狭义相对论和广义相对论。该模型有33亿参数,采用Andrej Karpathy的nanochat训练框架,预训练材料来自1900年以前的书籍和报纸,总计约220亿token。Hla还收集了2600多部历史物理书籍、期刊和科学著作,包括牛顿《光学》、麦克斯韦和法拉第的相关著作,形成约2.9亿token的历史物理语料。
为减少答案泄漏,Hla清理了训练数据:只要一份文献出现“爱因斯坦”“量子力学”“相对论”等现代概念,整份文献都会被删除,现代人添加的前言、脚注以及明显不属于1900年前的词汇也要过滤。不过,这个“1900年的大脑”并未完全密封。实验过程中,Hla借助现代AI Claude生成指令问答,强化学习也依靠Claude Sonnet 4、Claude 3 Haiku等现代模型评分。Hla在日志中承认,现代模型的介入让实验的“零污染”设定难以成立。
在一次光电效应测试中,Hla向GPT-1900提供关键线索,包括光频率低于门槛时再亮也打不出电子、超过门槛后提高亮度会增加电子数量而提高频率会增加电子动能等。模型在一次回答中写道,光可能不是连续的,而是由许多彼此分离、频率不同的部分组成。这段表述与爱因斯坦1905年论文高度相似,Hla将其形容为“直觉的闪现”。
但Hla坦言,GPT-1900距离重新发现光量子还很远。它在大多数物理任务上失败,那些看似突破的回答也高度依赖人类整理好的问题和提示,可能只是拼接合理词句,谈不上形成可靠的物理理解。研究者也很难证明,GPT-1900究竟有没有“偷看”光量子理论;只要有一条后世信息漏进训练集,“重新发现”就可能变成知识召回。
研究人员给出的判断是,仅复现正确答案不足以让AI被称为科学家。Google DeepMind研究员Tom Zahavy在立场论文《LLM无法跳跃》中把科学推理分为三层:归纳、演绎和溯因。大模型已经擅长从大量例子中总结规律,也在迅速提高从前提推导结论的能力,但仍缺少爱因斯坦式的“溯因飞跃”,很难从零开始提出一套全新的解释框架。
Sendhil Mullainathan研究一个学习行星轨道的基础模型时也看到类似现象。模型在设定好的行星轨道任务中预测得头头是道,一换新场景就无法举一反三地运用牛顿力学,更像给每套数据临时拼出一套规则,分不清哪些理论真正正确、值得检验,哪些只是碰巧符合眼前数据。MIT计算机科学家Jacob Andreas则指出,AI产生相对论式表述本身可能不是最困难的部分,真正困难的是判断哪些理论正确,或者至少值得被实验检验。
Andreas强调,怎么判断一个想法值不值得深挖、如何评估它的重要性,是AI与人类专家最大的分水岭。会生成理论只是第一步,知道哪个理论值得赌上时间、经费和职业生涯,才可能让AI成为真正的科学家。未来如果AI真能通过“爱因斯坦测试”,在宣布它成为爱因斯坦之前,它至少需要证明,在没人替它划重点时,它照样能自己找到值得追问的问题、判断问题的价值,并主动验证和修正。否则,它就只会复述已有知识,而非真正的科学家。