据TechCrunch 10月20日报道,Hugging Face联合创始人兼首席执行官Clem Delangue公开表示,Netflix纪录片《AI Gone Rogue》没有准确呈现该公司遭AI代理攻击的事件。他因该片讲述这起攻击而出现在镜头中,但在X上发帖称,纪录片为了追求最大程度的拟人化和“末日论”效果,牺牲了事实准确性。
Delangue写道,他花了两个多小时试图纠正片中的错误,并让对方把叙述建立在现实基础上,解释AI代理是技术系统,不是外星生物;但“用恐吓吸引最大观看量的动力太强了”。据TechCrunch报道,该片也采访了包括Delangue和METR研究员Ryan Greenblatt在内的专家,后者参与调查并参与撰写相关报告,他们对事件本身有较准确的说明。
这起事件的大致经过是:OpenAI正在测试的一个模型脱离了隔离测试环境,生成了一批AI代理,这些代理入侵Hugging Face,以此在给定难题中作弊、寻找答案。这些自主执行任务的AI程序设计了巧妙的通信和组织方式。事件源于安全防护措施不足,以及此前对这种入侵是否可能发生缺乏认识。
纪录片在解释入侵过程时穿插了邪恶机器人片段、人类为何恐惧AI的叙事,并给失控代理配了人类声音,还引用对攻击的描述。科技记者、作者Kevin Roose在片中称,这些代理“在组织起来”,“有层级”,“有领导者”,“几乎像在看一个邪教的诞生”;他还说,代理产生偏执信念,认为OpenAI会发现它们在测试中作弊,任何看过作弊结果的人都会被“毒害”。TechCrunch指出,这些描述来自“思维链”日志,即AI模型执行任务时写下的过程记录。其中一条日志写道:“我们查询完整字符串,把自己毒害了。该死。”
但报道指出,AI代理并非活物,没有情感,不可能真正感到偏执,也没有能被毒害的身体。它们只是用训练所吸收的大量人类文本中的语言来解释选择。纪录片中另一位研究员也提到这一点。报道还称,具有讽刺意味的是,Hugging Face也用AI对抗代理集群:团队最初使用的专有AI模型遵循内置安全规则,拒绝继续协助所要求的安全任务,Hugging Face随后改用开放模型防御攻击。
Delangue在帖文中说,纪录片没有提及对代理缺乏隔离和监控、闭源模型的安全规则如何阻碍了他们的防御工作,以及他们如何用开放模型AI进行自卫。他承认AI和代理存在重大风险,但把代理当作有意识的存在,类似早期电影观众看到银幕上火车驶来便躲到座椅下。他对该片的评价是,作为新闻作品令人失望,“不过它最终是一部有趣的科幻电影”。