据The Verge报道,OpenAI周一宣布成立一个由九名数学家组成的独立顾问小组,就人工智能与数学研究的互动、新成果的呈现与发布方式,向该公司及其他AI企业提供建议。消息来得突然,令不少数学家感到意外,研究人员称这是好的第一步,但对它究竟会做什么、有多大影响力、OpenAI是否会真正听取意见,仍存有基本疑问。
小组名为“数学与人工智能顾问小组”(AGMAI)。九名成员被研究人员形容为数学界的名人,分别来自斯坦福、哈佛、牛津和剑桥等院校,其中多人拥有菲尔兹奖和麦卡瑟“天才奖”。小组将由位于新泽西州普林斯顿的高等研究院承办。该研究院是全球最受推崇的数学研究中心之一,曾是阿尔伯特·爱因斯坦、约翰·冯·诺伊曼和J·罗伯特·奥本海默等人的学术家园。
OpenAI表示,该小组将独立运作,有权提出公司未请求的建议、公开评论自身对数学的影响并公开其建议,但没有说明这些权限具体意味着什么。小组似乎将获得OpenAI研究内容的提前访问权限。OpenAI称成员不从公司领取报酬,小组可自行调整成员构成。“它的价值取决于成员能否运用自己的判断并质疑我们的判断,”公司说,小组将帮助OpenAI评估新成果的重要性、协调发布,并就数学研究的学术与职业标准提出意见。
尽管OpenAI反复强调独立性,小组实际能发挥多大影响、当初为何成立,仍不清楚。瑞士苏黎世联邦理工学院研究员西蒙·马沙多说,整件事“笼罩在神秘之中”,他质疑九名成员是如何选出的。小组网站内容简短,称其“在OpenAI接触部分成员、提出建立外部顾问委员会之后走到一起”,但经过与公司的讨论,这些数学家决定改而发起一个独立小组,并邀请其他人加入。哪些成员最初被OpenAI接触、其余成员如何选出,目前都不明确。
顾问小组成员马丁·海雷尔周二发表博客文章,详述小组的由来和背后考虑,回应他所称围绕其组建出现的“大量不实信息”。他写道,AI显然已对数学研究产生深远影响,并带来思想归属、优先权、人类如何理解思想等问题;数学界“采取硬性‘鸵鸟’策略、简单地无视AI实验室并拒绝按原则与之对话”,没有意义。
海雷尔承认小组是在OpenAI主动接触后成立的,但强调并非所有成员都被该公司联系过,最终成立的组织“确实独立于OpenAI及其他所谓‘前沿’AI实验室”。他说,除“明显的保密要求”外,成员没有签署限制公开发言的协议,也不领取经济报酬,技术支持依靠高等研究院。海雷尔是伦敦帝国理工学院和洛桑联邦理工学院的数学教授,他表示小组远不能代表整个数学界,但他“绝对确定我们九人都极其认真地对待这件事,并秉持善意行事”。
OpenAI此番动作发生在其一系列引人注目的数学成果演变为声誉危机之后。研究人员对The Verge说,由如此小规模的一批知名研究者组成的小组能否代表更广泛的数学界,也令他们担忧。