据TechRadar报道,瑞士科技公司Proton于9月24日发布的一项调查显示,66%的英国人工智能用户曾与聊天机器人讨论至少一个敏感话题;与此同时,64%的受访者担心这些对话会被用来给自己建立画像。这组数据来自Proton对英国AI使用情况的研究,该公司以VPN和隐私工具闻名,并推出了隐私优先的聊天机器人Lumo。

调查呈现出一种矛盾:用户愿意向机器倾诉,却并不真正信任相关企业。42%的英国用户对AI公司保护私人信息的能力信任有限或完全不信任,其中11%表示完全不信任。尽管如此,55%的英国人承认AI已从根本上改变了他们的日常决策。

Proton的数据显示,个人财务是最常被讨论的敏感话题,占33%;其次是工作或职业问题,占32%;心理健康问题占27%,关系问题占20%。朋友和家人仍是多数敏感讨论的首选对象,但AI提供了一个全天候、不会表现出惊讶或尴尬的数字倾诉对象。

Proton AI工程总监埃蒙·马奎尔表示:“AI从我们身上学到的东西远超搜索引擎。我们不只是提问,还在分享有关健康、财务和关系的深度个人信息。当技术如此了解我们时,隐私不能成为事后考虑。”他补充说,人们已经认定AI足够有用,可以倾听他们的金钱烦恼、疑虑和日常担忧,并把内心生活和最大秘密交给AI公司,以为公司会保护这些信息,但事实相反,AI的商业模式依赖于从他们身上学习。

用户的担忧并不限于某一次聊天被AI记住,或日志被人工审核。在英国,64%的受访者担心自己的脆弱对话被用来建立详细的广告或营销画像;52%担心自己的秘密被反馈给机器,用于训练未来的AI模型。

这种担忧并未阻止用户接受更安全的替代方案。82%的用户表示,他们更可能使用专门围绕隐私设计的AI聊天机器人;如果能得到聊天不会被用于AI训练的明确保证,44%的用户会更愿意分享敏感信息。Proton希望用Lumo填补这一信任缺口。Lumo是该公司的开源、隐私优先聊天机器人,被视为ChatGPT的替代品,采用与Proton邮件客户端相同的端到端加密理念。Proton近期还推出Lumo旗下的AI Paper Trail工具,用可视方式展示一次普通AI对话会泄露多少关于用户内心生活的个人信息。