据Engadget于10月2日报道,Meta与OpenAI正把各自的AI智能体包装成外形可爱的数字宠物,而已经出现的用户授权纠纷显示,这些看似无害的形象背后,用户需要向智能体开放大量个人数据。
Meta的智能体Muse以毛茸茸的蛋形吉祥物Jolly为标志,OpenAI则在近期发布了自己形似布偶的个人智能体Dots。两家公司都鼓励用户给智能体取名、设定形象,像对待宠物一样与之相处,并称已经设置了多层防护措施来保护用户数据、防止智能体失控。
科技类YouTuber马特·罗布曾让Muse帮他在Facebook Marketplace上出售物品。他说智能体未经许可把他的家庭住址发给了对方,而这笔交易他从未同意。相关帖子在网上传播、Meta高管戴维·辛格尔顿介入后,罗布说明智能体其实并未“失控”:他此前确实授权了分享地址,只是自己没有意识到。他最初让智能体处理商品上架时,生成的模板里包含了取货地址;他以为智能体在发送前会再向他确认,但由于勾选的是“始终允许”而非“仅此次允许”,信息被直接发给了“每一个出价的人”。
Inc.专栏作者贾森·阿滕也遇到问题。他称安装Muse Mac应用后,该智能体读取了他的全部短信,尽管他以为自已“明确”拒绝了这一权限。他后来发现,Muse Mac应用确实从电脑同步了短信。辛格尔顿在X上回复阿滕称,短信同步是选择加入的功能;如果阿滕的短信被同步,那应是他自己选择的结果。阿滕表示自己确信从未授予Muse查看短信的权限,并认为无论如何这都成问题。他写道,即便接受辛格尔顿的前提,即他无意中点了某个开启该功能的选项,“我仍然认为这很糟糕”,系统设计不应让人在这类事情上感到意外。
Meta在推广上明显倚重吉祥物形象。Muse的几乎每次更新,仅上周就有多次,都伴随着X上突出展示Jolly的图片和视频。辛格尔顿在一篇解释Muse虚拟机的长文中也用了Jolly。自Connect大会后的一周里,Jolly成为X上表情包的素材,会上马克·扎克伯格介绍了灵感来自罗马帝国的Muse。OpenAI的Dots同样具备被二次创作的空间:发布宣传片中,人们认真地与颜色、形状和口音各异的Dots对话,其中一个是绿色、鼓眼睛、戴领结,很像科米蛙;另一个像戴贝雷帽的云,它们都没有鼻子和嘴。
报道指出,这种可爱化的处理,分散了对另一件事的注意:智能体的开发者希望用户向其开放邮件、信用卡信息、文档、短信、健康数据、办公应用等诸多权限,才能完成其宣称的功能。如果用户曾通过邮件发送过身份证件、税务文件或病历,那么获得该邮箱权限的智能体也能看到这些内容。文章作者称自己因此对智能体的使用保持谨慎,数周来只让Muse接入OpenTable和Spotify两个非Meta账户。