据 The Verge 报道,安全研究人员调查发现一个由约28款约会应用组成的诈骗网络,其聊天主要由人工智能自主角色运行。Anthropic 威胁情报研究员克里斯·克龙博(Chris Cronbaugh)于6月5日在公开网络安全会议 Sleuthcon 上披露了该网络,相关发现随后被收入该公司9月发布的“检测与对抗AI滥用”报告。
安全研究员马修·“齐古拉”·戈尔-科尔马尼克(Matthew “Zigula” Gore-Kormanik)在分析一款名为 Dora 的可疑约会应用时,收到一条弹窗提示,显示他正接到“珍妮弗”(Jennifer)的来电。根据个人资料,珍妮弗41岁,射手座,红发、蓝眼,有穿孔,喜欢音乐、恐怖电影、夜生活和运动。戈尔-科尔马尼克接听了通话,但在视频画面中没有看到珍妮弗,只看到一块可能在风扇吹动下晃动的挂毯,背景里还有奇怪的失真声。通话结束后,“珍妮弗”发消息说聊得很开心,并称“你的声音比预想的好多了”。然而,他的麦克风根本没有连接。
戈尔-科尔马尼克调查 Dora 及其他类似应用,源于 The Verge 记者提供的一份潜在约会诈骗应用清单。报道称,Anthropic 此前注意到 Claude 上出现异常活动:一个预付费账户每天发送超过10万次 API 请求。该公司随后发现了一个欺诈性约会应用网络,并让通常对外沉默的克龙博在公开会议上介绍情况。克龙博的演讲题为“右滑,付费:工业规模的AI网络交友诈骗”,他描述了一个约28款约会应用组成的网络,其中对话在很大程度上由自主AI角色运行。他说,大多数聊天根本没有人类代理参与。
这些应用被包装成帮助人们寻找聊天对象的工具,并不像 Replika 那样明确标注角色为AI。例如,Dora 被描述为“一款为广泛年龄段人群精心设计的约会应用……一个尊重他人、易于使用、能结识与你有共同价值观的人的空间”。另一个版本称它是“为寻求真实联系的成年人打造的温暖、简单的约会应用”。Romi 的描述称其“帮助你发现、联系真实的人并与之聊天”。Doni 的标语是“开始真实的陪伴”,描述称它“帮助你联系附近的单身人士”。
据 The Verge 报道,骗局运作方式如下:用户大多是35岁至40岁出头的男性,他们在约会应用上匹配到自认为是真实女性的人。但其中只有四分之一是真人,而这些人并非寻找约会的用户,而是拿钱办事的零工。零工受雇通过视频活体检测或关注社交媒体账号,他们甚至不自己写评论,而是从三条预生成的回复中选择一条来回复消息。他们能证明自己是人类,而AI角色只能找出看似合理的解释,拒绝视频聊天或通话。Anthropic 的报告称:“当没有真人可用时,后端组件伪造点赞、访客和预先录制的‘视频’,并追踪哪些用户已开始怀疑自己在与机器人交谈。”由于夹杂着一些与真人的互动,部分用户开始相信他们在应用上收到的完全由AI生成的回复也来自真人。
该网络涉及多家AI供应商。报告称,Claude 被滥用来运行自主对话角色,一个非 Anthropic 的小模型生成零工点击的简短回复建议,同时负责面部吸引力评分以及照片和语音审核。一个图像编辑模型则生成头像图片。
报道指出,网上存在完整的诈骗生态,从自动化的“色诱”回复到虚假社交媒体账号或约会应用资料。许多情况下,行骗者会花数月建立信任,再告诉受害者有紧急情况需要经济帮助,或者假扮投资者,让受害者把钱投入一个最终被证明是假的账户。但这一案件并非典型的恋爱诈骗:没有假恋爱对象“借”钱,也不涉及加密货币。应用本身就是骗局:它们要求用户购买金币以继续互动,而金币需要真钱购买。用户为了继续与主要是机器的对象交谈而购买金币,却相信自己在与其他人聊天。
Anthropic 公开这些发现时,许多涉事应用仍在美国两大应用商店上线。The Verge 的报道对它们为何尚未被下架提出疑问。Anthropic 已将相关发现发布在“检测与对抗AI滥用:2026年9月”报告的“诈骗与欺诈”部分,但该公司是在 The Verge 花费大量时间调查该网络并试图核实发现之后才发布报告。