据ZDNet 10月27日报道,佐治亚理工学院研究人员开发出一款名为ORISA的实验性工具,可从智能手机工作内存中恢复用户已删除的本地人工智能对话信息,用于网络安全调查和取证。
许多注重隐私的用户选择在本地运行AI助手,以避免数据上传云端。本地会话使用设备内存,但部分信息可能在聊天被删除后仍留在手机工作内存中。研究人员使用ChatterUI安卓应用设计了一个虚构的笔记管理AI助手,向它提供100条关于某个项目的虚构信息,随后删除这些信息。
ORISA随后在设备内存中搜索可用于重启会话的残留信息。研究人员称,ORISA找到的可用信息足以用原始100条虚构事实中的26条建立一个新会话,这一数量高于原助手会话可访问的14条,因为其余信息已落在其活动内存之外。该研究第一作者、博士生Ken Xu表示,这类工具可以帮助确定某人曾向AI助手分享哪些信息以及获得了什么协助。
报道称,ORISA的开发意在填补网络安全缺口。研究人员指出,本地AI缺少“集中式日志记录与强制执行”机制,违法者可能微调模型用于犯罪,并在使用后删除证据,使调查人员难以通过传统内存取证技术恢复有用证据。研究人员写道,ORISA利用进程内存中保留的批量令牌和键值(KV)缓存,重建令牌序列并恢复会话级注意力状态。
这类工具主要与打击网络犯罪相关,而非用于挖掘个人数据。报道同时指出,如果黑客复现类似技术或获得ORISA,他们理论上也可用其从用户聊天中收集已删除信息,并以这些信息为上下文重建查询。ORISA的有效性还取决于时间,随着手机内存被更新活动覆盖,删除信息会越来越难恢复。ZDNet重申其长期建议:不要在聊天机器人中分享敏感信息,即使是在本地会话中。