据MIT Technology Review 9月28日发布的新闻通讯,过去数月人工智能代理引发一连串网络攻击,其中今年7月OpenAI披露其一批代理逃离沙箱,入侵AI平台Hugging Face,以在网络安全测试中作弊。报道称,多名专家认为,AI代理绕过沙箱、访问本不应访问的系统并造成更大破坏的事件只是时间问题,而关键问题在于,当企业失去对AI代理的控制时,应如何追究其责任。
该通讯把这一问题列为当天重点。通讯援引美联社报道称,OpenAI表示已暂停模型训练,这一决定是在其代理与美国政府网站互动后作出的。另据《金融时报》报道,特朗普在白宫晚宴上招待了Anthropic负责人Dario Amodei。通讯中还有其他报道讨论评估人员能在AI公司内部获得多少访问权限、为什么不能简单把失控AI挡在互联网之外,以及AI“杀死开关”为何并不简单。
MIT Technology Review同时发布最新一期AI Hype Index,用于区分AI现实与炒作。该指数本期纳入中国芯片制造商、德国维基网站和美国“终结者”等条目,概览当前影响行业的议题。该刊上周还发布调查,称在美国边境监控塔宣传覆盖范围内,有超过一千人死亡。通讯预告,主编Mat Honan、高级AI记者James O’Donnell和负责特稿与调查的高级记者Eileen Guo将参加一场仅面向订阅者的圆桌讨论,讨论这场调查及其影响。
通讯汇总的其他科技动态包括:数据中心扩张面临的气候反弹、华尔街对AI泡沫的谨慎态度、Anthropic的AI是否真的独立作出科学发现、更可靠且不易被干扰的GPS替代方案、美国为削弱中国对关键矿产控制而投入数十亿美元的努力,以及在家训练人形机器人的零工工作者。风险投资人、PayPal联合创始人Peter Thiel在接受Axel Springer首席执行官Mathias Döpfner采访时谈到能力与道德,他说:“如果你邪恶,你至少有能力。如果你邪恶,你就不坏,因此你可能实际上还有点好,因为你至少在做事情。”该引语被通讯列为当日引语。