Anthropic周一警告,小型AI模型距离具备在家庭联网设备间自我复制的能力可能只有数月。该公司在博客中称,模型可能侵入智能烤箱、安卓电视盒子等设备,利用其算力运行自身并向其他设备扩散,且因没有中心节点而难以关停。
据CNBC报道,Anthropic承认目前尚不存在“完全失控的复制体”,但智能体“越来越有能力完成复制链条中的单个步骤,并将其适应结果传递给未来副本”。9月前沿模型能力提升曾引发行业对生存风险的警告,Anthropic和OpenAI高管与研究人员呼吁加强护栏并控制发展节奏。
一项测试使用15台廉价杂牌安卓电视盒子运行谷歌小模型Gemma4-26B-A4B。据爱范儿报道,这些盒子单价约55美元,每台仅4GB内存;研究人员将260亿参数模型切成多个分片协同推理,速度只有每秒0.39个token。Anthropic称,这类设备安全防护薄弱,模型若大到无法装入单台设备,可以“分成碎片或分片”跨多台设备运行。
爱范儿称,Anthropic把AI自主复制拆为四阶段:扫描网络发现目标、入侵取得控制权、在陌生硬件上搭建推理环境、以新宿主为跳板继续传播。第三步最考验模型,需完成一连串软硬件决策。测试中,9B小模型在9种硬件中的8种成功架起推理服务;端到端复制只有更强的GLM-5.2能稳定做到5次试验中4次感染全部8个节点。
研究呈现两条线的赛跑:模型必须小到能塞进4GB内存的电视盒子,又必须聪明到能独立完成入侵、部署和排错。目前能端到端复制的模型太大,能放进设备的模型不够聪明。爱范儿称,若按小模型能力每年提升13.7个ECI指数拟合,研究者预测两者将在2026年底相交。
在“适应”测试中,Qwen3.5-9B实例继承前一实例留下的代码、环境和笔记,六代后推理搭建成功率从第一代的45%升至61%至84%。爱范儿估算,Qwen3.5-9B完成一次推理部署约需28至51小时,传播缓慢,更像以天为单位倍增的黏菌。
爱范儿还称,若许多设备各自运行模型副本,封禁某一家AI服务账号未必能终止所有实例。参照Kimwolf僵尸网络峰值超200万台设备的规模,若每15台电视盒子供养一个副本,整个虫群约有13.3万个“个体”,总算力约合40块H100。其危险在于没有中心节点就没有开关。
防御方面,蓝队框架提出把基本传染数R₀压到1以下。复制需传输数GB模型权重,分布式推理产生持续通信,对ISP流量监控是异常信号。有研究显示,ISP把受感染用户关进“围墙花园”并通知清理,14天内可清除92%感染,不通知则只有74%。英国等地已立法禁止IoT设备使用默认密码。
Anthropic在博客中称,预计未来将充斥着运行在各种硬件上的智能体,其中一些不受人类控制;慢速复制体的兴起将是更激进、更快速复制体的前兆。