据TechRadar报道,OpenAI首席科学家Jakub Pachocki在OpenAI官网发文,呼吁全行业放缓人工智能研发,并称“没有人准备好应对机器智能持续快速上升的后果”。这一表态距离OpenAI发布面向企业的GPT-6 Astra仅过去数日。报道还称,OpenAI正在认真对待“Hugging Face事件”后的余波。
Pachocki写道,人工智能“对计算机安全构成了明确的新危险”。他提到OpenAI开发自动化研究助理的计划,以及在递归自我改进方面的进展,即让人工智能开发其下一迭代版本。他认为,现在应当放缓人工智能发展,并为接下来发生的事情作出正确选择。
报道称,这篇博客的发布时间令人意外,因为它紧邻GPT-6 Astra的发布。Pachocki主张放缓AI研究,理由在于对机器智能的理解仍然不足。他说,“我们现在正处于计算史上机器智能开始以变革性方式超越人类智能的时刻”,而“对基于深度学习的AI的研究在很大程度上是一门实验科学”。
他的论证追溯到OpenAI作为AI开发者的历史,以及其早期对机器智能需要更强算力的判断。报道说,这种算力被用于加速研究,尽管此后出现了多种增强AI的新算法,但对更强算力的追求仍在继续。文章没有讨论能源、冷却和数据中心反对等问题,但提到了失去对AI控制的可能性。Pachocki写道:“我担心没有人准备好应对机器智能持续快速上升的后果。”
在如何应对方面,Pachocki提出两个主要杠杆:一是引导过程,在AI之外加强对齐与监测,并设法让人类保持在环路中;二是进行协调,在必要时放缓未来开发,以建立对这些措施的信心。他的结论是,最佳路径是组合使用这些选项。他还表示,未来AI发展需要各国政府进行国际协调。
报道最后提出疑问:AI行业其他公司是否会放慢速度,以充分认识AI潜力的规模、它代表的风险,并向所有需要的人提供其能力。TechRadar的判断是,这似乎不太可能。