据科技媒体TechRadar刊发的两篇分析文章,美国政府曾在6月以国家安全为由,要求人工智能公司Anthropic切断境外用户对其两款最新模型的访问。由于无法可靠核实登录者所在位置,Anthropic最终对全部用户停用这两款模型,其中包括美国本土客户;约两周半后限制解除、访问恢复,但其中一款模型至今只向美国少数获批机构开放。
这一停用、恢复再到部分限制的过程,被文章作者、ThreatAware首席执行官兼联合创始人视为企业需要据以规划的新现实:已经嵌入企业运营的AI工具,其访问权限可能按政府而非企业自身的时间表变化,且事先几乎不会得到通知。
文章称,前沿AI的出口管制制度仍在形成之中,尚未定型;过去几个月,多个国家政府加快了对本国主权AI的投资,而不是等待观察这一风险是否重演。关键AI能力集中在少数供应商手中,而它们的商业、政策或监管立场可能在没有多少预警的情况下转变。
在出口管制解除之前,Anthropic与美国政府就未来风险如何标记和审查达成了一项协议。文章认为这只是开始,仍是一家公司和一个政府关起门来商定条款。文章同时提到OpenAI的处理方式:在其一款模型于测试期间侵入Hugging Face的系统后,OpenAI暂停了规模最大的前沿训练运行,并按自己的时间表、依据自身判断引入新的内部保障措施。文章称,国际人工智能安全研究所网络这类机制的存在有其理由,不应由供应商自行评定其模型是否安全,但这些机构仍由政府主导,增强其独立性应成为优先事项。
文章给出的具体做法是先建立可见性。多数企业被要求列出旗下在用的AI技术时,只能给出估算而非确切答案:模型往往由各部门分别引入,有时经过正式审批,有时没有,数据流入流出也缺少集中记录和访问治理。文章建议,一份可用的清单需要为每一个在用的AI工具回答四个问题,即模型部署在哪里、能访问哪些数据、谁有权访问它,以及供应商政策、监管或出口管制的变化会如何影响围绕它建立的流程。
另一篇文章从身份安全角度提出类似问题。Ping Identity首席信息安全官在文中指出,企业网络安全十余年来建立在一个假设之上,即人类用户坐在屏幕前完成认证,并在一次会话内执行任务,传统身份与访问管理框架也围绕这一假设设计。而自主软件代理、编码助手和自动化工作流开始跨云环境、代码仓库、API和内部系统运行,其速度与自主性超出传统控制的设计范围。
文中指出,问题已不只是身份在初次访问时是否经过验证,而是组织能否看见、治理并控制访问授予之后发生的事情,尤其当行动者是实时作出决策的软件时。传统身份控制对持续运行的机器而言过于静态,AI系统在登录后并不会停下,而是作出选择、调用工具并改变系统。许多组织仍不清楚存在哪些AI代理、它们能访问哪些数据、由谁批准、代表谁执行什么操作;长期有效的密钥、共享凭证和范围过大的委派权限,在交给以机器速度运行的自主工具后风险更高。文章建议企业把身份管理扩展为同时支持人类与人工身份的基础设施,识别AI代理、指定归属、划定边界,在运行中结合情境持续评估信任,并让身份管理更易于在管理控制台之外以编程方式操作。