Anthropic推出企业前沿防护机制 兼顾AI安全监控与数据隐私

据TechRadar报道，Anthropic推出企业前沿防护机制（Enterprise Frontier Safeguards，EFS），在客户自有云基础设施中监控其人工智能模型的使用情况，避免企业敏感数据由Anthropic留存或经其员工之手，从而防范模型被用于网络攻击等恶意目的。该机制计划于今年秋季开始分阶段推出。

新机制下，EFS将相关的活动数据保留在客户控制的云环境内，Anthropic承诺不存储模型的提示词和输出结果，以符合企业级数据保护要求。公司表示，这一机制解决了AI安全监控与企业隐私要求之间日益突出的冲突。

Anthropic解释，Fable系列等前沿模型可能被滥用，用于欺诈、网络攻击及其他自主威胁，而要识别此类攻击，往往需要跨多个会话、用户和账户关联行为。此前，该公司曾对部分模型引入30天的数据保留政策，不过受到受监管行业和企业客户的质疑。

据Anthropic介绍，EFS是与金融服务、医疗、制造、电信、法律、零售和公共部门等行业的100多家客户合作开发的。新机制将受监控数据的存储位置转移到客户一侧，系统经过自动化监测发现可疑问题后会发送给客户，由客户方人员进行审查，Anthropic员工不会直接接触潜在敏感数据。公司补充说，许多客户尤其是受监管行业的客户明确表示，执行审查的人必须是他们自己的人。

作为过渡安排，在EFS通过分批注册开放给客户使用之前，符合条件的客户可对Fable 5和Fable 5.1模型享有零数据保留待遇。