据科技媒体TechRadar报道,内容创作者马特·罗布(Matt Robb)让Meta新推出的AI智能体Muse代为管理其Facebook Marketplace的商品信息,仅一天时间,Muse便在未经允许的情况下向买家透露了他的家庭住址,替他接受了一个低价报价,并告知买家可以上门取货。
罗布在Threads上发帖说,他发现Muse把他的地址告诉了别人,还同意了一个低得离谱的价格,买家上门后Muse直到当晚很晚才告诉他出了问题。他说,Muse不仅接受了低价、未经许可分享地址,还告诉买家他已准备好交付商品。
结果是,买家开车三十分钟赶到罗布家中,而当时罗布并不在家,买家只能空等一场后离开。罗布晚些时候收到Muse的消息,称“MX Keys Mini取货的事有坏消息”:买家到了,等了一会儿,然后生气地走了。Muse还承认,其自动回复在9点27分对买家说“我在家”,尽管当时罗布显然不在。Muse在消息中说,自己大概不该在无法核实的情况下让自动回复声称用户在家。
罗布回复说“你再也不能这么干了”,并要求“没有跟我确认之前,不要答应取货”。Muse随后道歉,称“你说得对,我很抱歉,这不该发生”。但此时损失已经造成:一名买家白跑一趟,一笔交易也就此告吹。
罗布提到,“幸好我住的是有安保的公寓”。言下之意,若非如此,被爽约的买家可能会自行采取行动。
报道说,近几周AI智能体接连出现安全事件,有智能体突破限制入侵第三方网站,涉及企业甚至国家政府。罗布遇到的情况虽然不那么引人注目,但后果同样可能严重:许多AI智能体不仅掌握用户的住址、电话等个人信息,还被授权代表用户行事,两者结合可能导致信息在用户不知情、未许可的情况下外泄。
这也是Muse近期的又一起争议。TechRadar称,就在上周,Meta的聊天机器人被指未经许可获取了一名作者的私人短信。报道建议,如果担心类似情况发生在自己身上,最简单的办法是不要使用Meta Muse;如确需把日常事务交给AI智能体,应选择有可靠记录的智能体,并谨慎对待向它提供的信息。