Anthropic 上周三宣布,其今年早些时候设立的分子生物学实验室已取得首个发现。据《麻省理工科技评论》报道,该实验室由 Claude 智能体阅读并猜想困难生物学问题,人类科学家再对智能体报告做实验。Anthropic 称,由 950 个智能体组成的系统在 21 小时后没有找到全新 DNA 序列,而是标记出一个围绕已知酶的重复模式,并称这一模式此前未被编目。

Anthropic 在公告中把这种模式描述为“令人联想到”催生 CRISPR 基因编辑技术的发现。这激怒了部分生物学家。Lucas Harrington 的批评帖子传播广泛,并获礼来公司董事长兼首席执行官支持。帖子称,“找到一组奇怪的基因和重复序列通常是容易的部分。困难的部分,也是真正发现所在,是弄清楚这个系统究竟做什么。”也就是说,智能体只帮助了部分实验室基础工作,不能算发现。

争议还涉及优先权。据《纽约时报》报道,哥本哈根大学生物学家 Mario Rodríguez Mestre 上周末称,他的团队已发现同一模式。Mestre 常在工作中与 Claude 聊天,怀疑 Anthropic 团队从他的对话中学习。Anthropic 否认,但 Mestre 表示将停用 Claude。

文章指出,问题之一是 AI 公司不愿只把系统当作显微镜或超级计算机那样的工具,而坚持称 AI 本身在作发现。这与科学实际运作方式不符:新知识通常来自协作和不断增长的工具库。即使 AI 在大量生物数据中找到人眼难以察觉的模式,对 AI 新颖的东西,对生物学家可能只是常规甚至不重要。把 20 万个候选对象缩减到少数值得探索者,是正当科学工作;通用聊天机器人能完成它也值得注意,但标准若变成 Claude 本身是否发现,讨论就只剩突破或失败。

OpenAI 也遇到类似质疑。本月早些时候,OpenAI 称其团队智能体破解了一个百万美元数学问题。两周后,在文章作者的信息流中,几乎所有 AI 怀疑者都在分享一篇文章,追问这是否是数学家真正关心的问题。该文没有说解答错误,而是认为特定结果可能不是数学家最在意的结果。一名数学家还指责模型可能未经署名使用他的工作,人们因此认为 OpenAI 要么作弊,要么答案不重要,或两者兼有。

Lucas Harrington 建议,AI 公司现在应把标准设高,以便 AI 真正发现根本性新生物学机制时,人们能理解其重要性。但文章结尾写道,当 OpenAI 的 Sam Altman 与 Anthropic 的 Dario Amodei 竞相压过对方时,提高 AI 科学突破门槛可能是他们最不关心的事。