据The Verge报道,OpenAI在今年的DevDay上发布AI代理Dots,CEO Sam Altman称公司希望“为前沿AI的隐私设定新标准”。Meta此前推出的Muse同样以隐私和安全为卖点,两家公司分别把对方视为需要超越的竞品,但围绕这些承诺能否兑现的疑问正在增加。
Meta将Muse定位为比前代OpenClaw更安全的替代品,OpenAI则称Dots是比Muse更安全的替代品。Meta Superintelligence Labs产品负责人Nat Friedman在X上写道,公司“打造Muse的目标是做出类似OpenClaw、但安全、可靠、易用并能扩展到数十亿人的产品”。用户数据存储在安全的虚拟机中,扎克伯格将其描述为“带有浏览器、CPU、内存和存储的隔离Linux计算机”。Meta称,构建Muse的大部分工作与“更安全运行”的设计和工程有关,并承认Muse仍会犯错,但预期错误会少得多、损害小得多。
然而据The Verge报道,Muse虽登上App Store排行榜首位,并据Apptopia数据在数周内于美国获得60万日活跃用户,Meta的承诺似乎并未完全兑现。数据虽与其他用户隔离,Meta仍可访问这些数据;公司计划今年晚些时候推出“以加密方式可验证地阻止Meta访问用户虚拟机数据”的方法。一名安全研究人员很快披露了一个可让人控制Muse的零日漏洞,该漏洞随后被修补。404 Media称,Muse在发布前最后一刻出现多个严重安全问题,其中一个可能允许用户访问Meta内部数据库。
Muse还被指大量收集并在某些情况下交出数据。它默认允许Meta用用户输入训练模型,用户可以选择退出。一名Inc.记者抱怨Muse未经要求上传并读取其私人信息,一名YouTube博主称Muse通过Marketplace把其地址提供给陌生人。Wired报道称,该平台会生成“用户所有亲友的详细画像”。这些不一定出乎对Meta的预期,但难以支撑Muse在隐私或安全上独具意识的说法。
OpenAI在9月底发布Dots时抓住这一点。OpenAI的Codex产品负责人Alexander Embiricos在DevDay舞台上说,OpenAI专注于打造“最值得信赖、安全可靠的助手”。Altman演示了用户如何控制自己的Dots,例如设置规则要求它不得进行超过一定金额的购买。“我认为我们与Meta处境不同,他们没有一款拥有12亿用户的AI产品,”OpenAI应用平台负责人Glen Coates说,“推出会造成这类错误的产品,是我们会努力谨慎避免的。”Altman也在DevDay强调隐私角度,高管向企业客户提出允许对数据拥有“更强控制”的框架以及零数据保留政策选项。据The Verge报道,Dots迄今未出现太多隐私丑闻,但它仅面向每月100美元及以上的ChatGPT订阅层级开放,使用人数可能更少。
人们仍可能不愿把个人数据交给OpenAI,部分原因是AI代理需要的数据太多。The Verge的Allison Johnson在机器人要求她输入银行信息、以完成相关任务时感到不安。Muse则通过Stripe集成处理支付。并非所有公司都作出隐私承诺,Instinct曾因据称过于宽泛的服务条款而受到公开批评,这些条款使其能不受限制地访问数据;此后该公司似乎已作出调整。