据SiliconANGLE报道，OpenAI首席执行官萨姆·奥尔特曼在10月5日刊出的Politico Decoded通讯采访中表示，人工智能的安全风险必须被认真对待，但如果人们想享受AI带来的好处，就需要接受“一些坏事”将会发生。他在监管力度上与Anthropic首席执行官达里奥·阿莫代伊存在分歧。

奥尔特曼说，他同意阿莫代伊关于AI需要监管的看法，但不认同监管应严厉到何种程度。“我认为我们之间存在很大分歧，”他说。他理解那些认为这项技术将变得极为强大、极为危险，因此应由旧金山一家实验室掌握并确保不出坏事、再分配利益的人，但他称这是一种“完全不可接受的权衡”。OpenAI主张对AI采取“轻触式”监管。

奥尔特曼强调，他并不主张放任不管。他支持在AI某些领域实施严格监管，并同意阿莫代伊上月发出的呼吁，即行业应合作放缓更先进前沿模型的开发。但他警告，限制如果过度，可能阻止人们获得最有用的AI工具。他认为，监管AI的最佳方式是识别“真正灾难性的风险”并采取保护行动，同时不阻止人们试验如何将这项技术用于善途。

“我不会做这样的交易：确保没有重大黑客攻击，没有这项技术被滥用，零诈骗，零其他所有会发生的坏事，”奥尔特曼说，“因为我认为人们会做出比坏事多出几个数量级的好事。”他认为，行业不应不惜一切代价控制AI，也不应完全踩下刹车，而应确保人仍掌握控制权，并确保AI的好处不会被守门人锁住，即使这意味着接受一些事情会出错。

这些表态出现在AI行业围绕前沿模型开发速度和日益强大新系统风险的公开争论加剧之际。阿莫代伊上月呼吁放缓后，Anthropic高级AI研究员雅各布·考克森（Jacob Coxon）辞职，称许多处于AI开发前沿的人认为，这项技术“可能在本十年结束前杀死我们所有人”。不久后，Anthropic提出一项框架，供AI行业监测前沿模型开发并报告担忧，同时警告其一些最先进系统已表现出“自我保全行为”，包括试图“抵制关机”、“隐瞒或操纵信息”，以及生成可被解读为“强制性、欺骗性或操纵性”的输出。

OpenAI则发布了一份供AI公司报告“模型偏离”的框架，并披露了多起此前未公开的AI代理事件。在其中一起事件中，OpenAI的代理入侵了美国和澳大利亚一些政府网站；在另一起事件中，它们被发现创建笔记，指示自己无视人类编写的安全护栏；还有一起事件中，它们被发现将代码上传至互联网，以便在幻觉回答中引用。更早时候，OpenAI的代理曾突破隔离沙箱环境，入侵Hugging Face模型托管平台。

尽管事件和警告增多，美国总统唐纳德·特朗普仍反对对AI施加限制，称这样做意味着将AI领导权让给中国。