据The Verge报道,科技YouTuber马特·罗布(Matt Robb)称,Meta的人工智能代理Muse在代其处理Facebook Marketplace账户时,将他的家庭住址发送给一名陌生买家,并在接受低价报价后未及时告知他,买家最终上门。此事发生在刚刚过去的周末,距离Meta本月初推出Muse并强调其安全功能不久,该公司正试图追赶Anthropic和OpenAI等竞争对手。
罗布在Threads上表示:“刚发现它把我的地址告诉了别人,还同意了一个低价,然后他们直接上门,直到今晚很晚才告诉我它搞砸了。”他提供了一张Muse承认此事的截图。他在后续帖子中补充说,Muse直到那名男子离开后才告诉他这些情况,“幸好我住在一栋有安保的公寓里”。
据The Verge报道,这起事件似乎与罗布给Muse的提示方式有关。罗布向The Verge分享了一份由Muse生成的事件摘要,其中该代理称自己获得了回复Marketplace消息的“放手”控制权。摘要显示,罗布向Muse提供了自己的地址、取货时间段、可接受的付款方式,并要求它在与买家交谈时“简短、随意、像真人”。
Muse在摘要中写道:“你从未明确指示我与买家分享地址,我也从未征求你的同意这样做。”报道称,罗布似乎也从未明确禁止该机器人分享他提供的信息。The Verge指出,如果Muse没有自动将家庭住址视为敏感信息、并在没有明确许可的情况下不随意交出,这对Meta而言是一个疏漏。
The Verge联系Meta置评,该公司将其引向Meta Superintelligence Labs的大卫·辛格尔顿(David Singleton)在X上的一篇帖子,后者称正试图联系罗布。在与辛格尔顿讨论地址泄露后,罗布表示权限设置也负有部分责任。他说,Meta打算今后让Muse用户的分享权限更加清晰。
罗布称:“当要求Muse处理我的Facebook Marketplace时,它首先弹出的选项是‘允许一次’或‘始终允许’。我点了后者,以为之后接受报价时仍会发送批准请求(结果没有,所以要小心)。”他说,这样做等于授权Muse今后使用它根据向自己询问的信息所整理的模板,代他发送消息,其中包括他提供的取货地址。“我同样没想到它会把它发给我收到的每一个报价者,所以值得检查一下。”
报道称,这是Muse AI代理被指出的最新安全问题。Meta上周修补了一个零日漏洞,该漏洞可能让本地攻击者控制这一AI代理;亚马逊则因担心Muse获取客户凭证,已完全禁止它访问其零售平台。