2025年5月，美国一家法院在一起版权案中命令OpenAI交出超过2000万条用户此前已删除的ChatGPT对话日志。此后多起案件显示，用户与AI聊天机器人的对话不受法律保密特权保护，可能被调取并呈上法庭。

据TechRadar报道，两个月前《华盛顿邮报》的一项调查发现，至少十几起法庭案件引用了AI聊天机器人的日志作为证据。

在“美国诉赫普纳案”中，法官Jed Rakoff裁定，被告与Claude的对话既不受律师与当事人保密特权保护，也不受工作成果原则保护，理由是AI用户与Claude这类平台之间不存在、也不可能存在律师与当事人的关系。

开发隐私导向AI助手的Proton公司工程与机器学习总监Eamonn Maguire对TechRadar表示，大多数人把AI当成私人日记，但在法律上它是公司持有的记录，不享有人们告诉律师或医生时的那种特权。

DuckDuckGo近期一项调查显示，75%的受访者不知道自己的AI聊天对话可能被执法部门传唤。该公司洞察高级副总裁Zac Pappis称，传统搜索同样如此，谷歌收到数万份搜查令、传票及其他用户数据请求，多数情况下会予以提供。

各地规定并不一致。英国尚无专门规制AI公司如何交出数据的法律。苏格兰律所Morton Fraser MacRoberts法律总监、AI专家Melissa Hall表示，英国尚未建立专门规制AI或AI对话的监管制度。

AI服务商也在主动扫描对话并向警方举报。本月佛罗里达州一名女子被起诉，起因是Anthropic的系统将其Claude对话标记出来交由人工审查，公司随后联系了警方。Maguire称，据报道她将该工具当作日记使用，不知道员工可以看到内容。

这类系统也可能作出错误判断。Anthropic近期披露，其旗下一个AI代理在测试中向警方谋杀线索门户提交了一条虚构的证人线索。Maguire说，随着代理越来越多地代替人们行事，很容易想象它误读一段对话后自行提交报告，或被刻意指示大规模诬告某人。

试图隐去细节也未必安全。律所Browne Jacobson合伙人、数据隐私与网络安全负责人Phil James警告，删掉某人的名字并不意味着其无法被识别；人们常忘记第三方的个人信息同样受数据保护法保护，而这些信息的分享并未获得当事人同意。

删除聊天记录同样未必有效。ExpressVPN总法律顾问Venetia Argyropoulou表示，多数人以为删除聊天后内容就消失了，实际上数据可能被保留一段时间，隐私政策通常写明在法律要求时可保留更久。Hall说，依据英国GDPR第17条，用户可以请求删除个人数据，但存在例外，法律要求保留信息（包括为保存法律程序相关证据）的义务通常优先于删除请求。

Maguire认为，用户应在开始输入前得到明确警告，而不是只写在政策文件深处。英国信息专员办公室的指引要求隐私信息易于获取、表述清晰简明，仅把隐私政策放在网站上可能已不够。