据The Verge报道,Meta上个月发布的AI个人助手Muse下载量已达数百万次,并登上苹果App Store榜首。这款带有虚拟头像的助手鼓励用户授予银行账户、密码、联系人、聊天记录等访问权限,以帮助完成用户交办的任务,但其收集范围也覆盖与用户有数字联系的其他人的信息。
Signal Foundation总裁梅雷迪思·惠特克对The Verge表示,这类系统被宣传为自主助手、精灵或仆人,能在用户开口前无缝完成需求;这些自主行为不仅作用于安装Muse的人,也作用于该用户通信往来的每个人,相关信息从电子邮件、消息、联系人、照片等最私密信息中推断而来。The Verge在报道中称,AI代理让消费者自动化日常任务,同时把科技公司大量摄取敏感数据的监控方式扩展到新的范围;硅谷数十年来一直提供类似交换,即用私人数据换取一点便利。
Meta发言人丹尼尔·罗伯茨回应称,任何代理要有用并帮助用户实现目标,都需要了解用户及其互动对象的背景;Muse根据公开信息和用户选择分享的内容收集这些信息,例如记住发来账单的人正是此前修过浴室的水管工,或配偶说过最喜欢哪种花。罗伯茨强调Muse采用选择加入流程,并提供多种选项和设置,帮助人们做出适合自己的隐私选择。
但The Verge报道指出,并非所有用户都能理清这些选项和设置。已有用户描述了一些令人不安且可预见的事件,包括虚拟助手抓取数百万条他们认为不应被读取的短信。Meta否认助手能在未经许可的情况下访问短信,将此归因于应用权限配置错误,并称Muse读取短信的功能“完全基于选择加入”。Meta高管戴维·辛格尔顿在Threads上直接回复用户称,在Mac上,Muse只有在用户授予应用完整磁盘访问权限时才能获取这些信息。
另一件事中,Muse给出了一名科技评测者的家庭住址,并招来陌生人前往其公寓。这名评测者曾授予Muse访问该数据的权限,但没有意识到自己授予了什么。电子前沿基金会网络安全主管伊娃·加尔佩林对The Verge表示,这些事件并不令人意外,因为像Muse这样的AI代理被设计成让人们在困惑中交出尽可能多的数据。她说,最重要的结论是人们不理解自己交出了什么数据,用户界面鼓励尽可能多地分享,往往超出用户意识,直到为时已晚;它使用暗黑模式,结果导致Muse做出人们不想要的事情。
由于Muse等AI代理摄取的数据范围极广,用户不仅可能泄露自己的敏感信息,也可能泄露所有数字联系人的信息。The Verge称,类似Meta臭名昭著的“变态眼镜”,用户没有真正有效的方式选择退出,即便持续监控数据是否被泄露或隐私是否被侵犯也不例外。