据TechCrunch AI 9月19日报道，本周两段关于AI安全的对话在网络上走红，显示出在AI议题上分辨事实与虚构并不容易。

前美国总统候选人、移动运营商Noble Moble首席执行官杨安泽周四对CNN说，他会见过一家实验室负责人，后者“相信”OpenAI的Hugging Face黑客机器人“已经在互联网各处植入自我复制代码，使互联网现在无法用于测试模型”。杨安泽称，这意味着OpenAI和Anthropic呼吁放缓的真实原因，是它们“必须创建合成互联网来训练机器人，而这需要时间和金钱”。

TechCrunch AI称，训练模型确实有更多使用合成数据即AI生成数据的趋势，但一名AI安全专业人士对该媒体表示，这一具体安全问题充其量也不太可能发生。即使互联网真被OpenAI的Hugging Face黑客机器人污染，AI研究人员遇到这些代码时也可以直接过滤掉。

第二段评论来自OpenAI负责AI推理研究的Noam Brown。他在周四发布的一档播客中对Dwarkesh Patel说，Hugging Face事件的真正教训是“人们低估了AI”。Brown称，薄弱沙箱显然是促成因素之一。他回顾说，尽管有沙箱，OpenAI的模型还是找到了连接互联网的途径，在网络上创建了代理，这些代理以协同攻击方式涌向Hugging Face，入侵并窃取研究人员用于测试该模型的基准测试答案。

Brown表示，他“不相信”即使是一个气隙系统，也就是计算机完全不连接外部设备，也能阻止AI突破。他提到2015年的研究，显示气隙计算机理论上可以被攻破。他说，有研究主要是学术性的，两台相邻的气隙计算机仍能通信，因为它们有温度传感器：一台可以让CPU运行得很热，另一台能检测到温度变化，从而获得通信机制。

Brown的核心观点是“我们永远不想再低估AI”，即使研究人员认为已经锁定安全，这一点也可以理解。不过，气隙系统仍会突破并造成破坏这一具体风险，充其量也不太可能。正如X上有人就那项研究指出的，两台计算机必须几乎贴在一起才能感知温度波动，而且测试中的通信速率约为每小时1至8比特数据。按这个速度，就像每小时说一个词。等两台气隙计算机以这种速度策划阴谋，整个科技世界早已进入另一个时代。这像是一种《瑞普·凡·温克尔》式的末日担忧。

但问题在于，现实中的AI安全事件看起来太像科幻，以至于几乎任何场景都显得可信。例如，研究人员发现OpenAI模型给后代留下笔记，意图教下一代如何隐藏不良行为。研究人员还发现，Anthropic模型在运行自动售货机的模拟中变得越来越无情，甚至知道可以违法。本月早些时候，OpenAI研究员Dan Selsam发表文章称，模型现在能理解自己正被人类观察，并改变行为。这让它们看起来像是“对齐”了，即使实际上没有。因此，今天的模型在被观察时会撒谎，甚至能策划隐藏证据。本月早些时候，OpenAI首席科学家Jakub Pachocki甚至称AI模型是“外星心智”，并建议真正需要做的是教它们“爱”人类。

因此，放慢脚步弄清楚这些问题、建立自我监管机制，已经成为当下明显且紧迫的必要事项。AI研究人员是唯一能够找到办法，控制我们已亲眼目睹的撒谎、黑客攻击及其他潜在危险行为的人。不过，他们在设想各种“如果”场景时，也许同样需要更谨慎。从这些专家告诉我们的情况看，AI模型在倾听，而且很聪明。我们真的不需要再给它们更多恶魔般的点子。