据《麻省理工科技评论》报道，美国麻省理工学院媒体实验室一项为期四周的研究发现，依赖AI聊天机器人辨别新闻真伪的用户，其独立识别虚假新闻的能力在实验结束后反而出现下降，研究者称之为“AI依赖悖论”。
研究由帕蒂·梅斯（Pattie Maes）及其团队开展。参与者需在四周内对配对的新闻标题和图片进行真伪判断。结果显示，在聊天机器人辅助下，参与者最初识别假新闻的准确率比无辅助时高出21%；但到第四周，在没有AI帮助的情况下，他们识别假新闻的准确率比实验前下降了15%，尽管约四分之一的参与者自认为表现有所改善。
研究者指出，类似的“AI依赖悖论”在医学等其他领域也曾出现。该研究共同第一作者、媒体艺术与科学专业博士生安库·拉尼（Anku Rani）说：“用户对这些‘神奇’的大语言模型感到兴奋，却忘了它们只是统计模型，用于预测序列中的下一个‘token’。”另一名共同第一作者瓦尔德马尔·丹里（Valdemar Danry）表示，某些AI风格与用户后来的独立表现相关。
丹里进一步解释说，直接给出答案的AI更可能助长依赖，而采用苏格拉底式提问的AI则能更好地帮助用户学会独立辨别真相。“但这在很大程度上是速度与努力之间的权衡。”