25位菲尔兹奖得主联名签署公开信,称人工智能实验室为在求解著名数学难题上互相抢先,正威胁数学家的智力劳动。围绕AI证明的署名与研究伦理争议本周进一步升级,OpenAI先后被指施压研究者,并撤回对加州理工学院一项数学活动的赞助。

据TechCrunch AI报道,纽约大学教授Tristan Buckmaster本周指控OpenAI向他施压,要求他不要为一位在Anthropic工作的合作者署名,该合作者解决了一个重要数学问题。Buckmaster还怀疑,OpenAI是否利用他们与Codex的工作成果,在一个马拉松式的推理周末中产出了自己的突破性证明。

周四,在遭到加州理工学院研究人员批评后,OpenAI撤回了对该校一个数学活动的赞助。

公开信的签署者全部获得过菲尔兹奖。他们认为,AI模型若能解决人类尚未攻克的数学难题,可能造福人类,但前提是这些解答能被数学界理解并传播,进而被外界理解。他们写道,这些解答往往仓促公布,没有时间撰写正式论文、提炼新方法与新思想、引用他人先前的工作;OpenAI的证明至今仍未得到验证。

信中还说,与所有创造性职业一样,这带来严重的署名与抄袭问题;如果没有数学家愿意投入精力把AI构想发展并整合进数学正典,这些想法永远不会真正活起来,数学家之间关键的人类传承链条也将断裂。

随着更多数学家开始担心自己对Codex的使用被反过来喂给OpenAI的新模型,开放研究的文化被认为面临威胁。目前,前沿实验室一旦看到通向发现的可行路径,就可以花费数千万美元用大语言模型赶在原作者之前完成证明,这种机制会鼓励保密。

这封公开信发布于6月数学家工作组公布《莱顿宣言》之后。该文件同样讨论大语言模型证明将如何改变他们的工作,并向数学家、机构和政策制定者提出一组建议。

在软件工程等已被AI工具改变工作流程的领域,数学界从“围绕工作的工作”中找到依据:数学的价值不只是证明和谁获得署名,还包括滋养学生、发现新问题与新想法,并把它们纳入更广泛的人类文明。

公开信写道,数学界现在面临的问题,与其他科学和创造性职业面临的问题相似,也预示全人类可能面临的问题:在AI改变工作方式的过程中,如何确保不忘记这项工作原本要达成什么。