10月7日,人工智能在内容社区、网络安全和消费硬件三个场景中的信任问题同时出现。英国论坛Mumsnet否认用AI撰写帖子,安全公司Island披露仿冒ChatGPT、Gemini等品牌的钓鱼活动,苹果前高管托尼·法德尔批评第一波AI硬件未解决真实需求。

据《卫报》报道,Mumsnet热门“我是否不讲理”(AIBU)帖子下方出现标题为“AIBU Response Schema v.1.0”的AI提示词,要求AI写“人际合理性”帖子,给出论坛式裁决和简短建议,并解释AIBU、ND、DD等缩写;它还规定不要诊断任何人、不要贬低神经多样性人士、不要暗示生病的孩子有社交表演义务。提示词出现在用户AmIAComplete求助之后,论坛用户称这“非常诡异”“疯狂”和“太令人失望”。Mumsnet成立于2000年,2025年月独立用户数下降19%至610万,帖子数减少60万。

Mumsnet先否认用AI写帖子,称提示词来自使用OpenAI模型的标题建议工具,用户不接受并发现提示词可生成完整帖子。Mumsnet再称提示词并非来自他们,用户仍不信。创始人贾斯汀·罗伯茨随后确认,提示词来自其系统,系统把用户草稿发给OpenAI,本意建议标题,但这次发送了要求整段回复的提示词。她称这“看起来是他们那边的错误”,并说“我们不使用AI在Mumsnet上写帖子或回复”。罗伯茨对《卫报》说,系统中没有任何东西要求、存储或使用类似内容;Mumsnet把AI用于编程、广告运营、对话分析和标记问题帖子,但从未测试起草帖子的工具。

据TechRadar报道,安全公司Island发布报告称,网络犯罪分子正用仿冒AI营销工具窃取广告和营销经理的谷歌企业账号,ChatGPT、Google Gemini、Claude、Manus和Muse等名称均被滥用。攻击者搭建虚假AI营销产品网站,每个品牌有不同话术,网站都要求连接谷歌账号;按下后启动浏览器中浏览器攻击,在实际浏览器内显示假地址栏。受害者可能看到accounts.google.com,但真实域名与谷歌、OpenAI无关。另一端的人类操作员实时跟随,可伪造密码错误或选择多因素认证界面。平台支持谷歌、Meta、TikTok和Okta工作流。Island称,攻击者瞄准企业账号,因为广告账号存有支付方式和已批准预算,经理账号还能触达多个客户账号。活动仍在进行,研究人员看到数百个受害者提交。

据TechCrunch报道,在首届MIT Future Fest上,托尼·法德尔展示已被停产的Rabbit R1、Humane AI pin和Limitless pendant。他说这些是“第一代”AI产品,这些公司曾请他帮忙,但他没有。法德尔被称为“iPod之父”、iPhone联合创作者和Nest创始人。他说,必须理解要解决什么痛点,“这些案例中,每一个都没有满足任何需求——只是对极客有趣的技术”。这些设备承诺个人助理便利,但表现不佳;他说全球不到0.01%的人曾拥有人类助理,大多数消费者不知道助理是什么。信任和安全至关重要,他认为目前只有苹果可能做到,苹果有硬件和芯片,但没有全部AI能力。他预测成功代理必须只在设备上运行,以保证隐私和轻量,并对“数据中心将征服世界”的说法表示不相信。法德尔说,苹果通过把敏感数据留在设备上获得用户信任,但没有自己的世界级AI模型,新Siri AI运行在定制版谷歌Gemini上。