据美国科技媒体TechRadar 9月4日报道，三名缺乏经验的登山者在美国加州沙斯塔山（Mount Shasta）因谷歌Gemini提供错误登山信息而遇险，在山上滞留超过16小时并出现伤情，最终由当地救援人员救出。

报道援引西斯丘县治安官办公室的消息说，谷歌Gemini此前告诉这三名登山者，登顶沙斯塔山只需准备约8小时的行程，并建议携带简单碳水化合物而非脂肪，理由是脂肪“消化时间太长”。然而实际登山过程远超这一估计，三人用了16个多小时才登顶，后在黑暗中下撤时偏离路线，进入Mud Creek Canyon区域，其中一人膝盖受伤。他们不得不在该处临时扎营过夜，并发出求救信号。次日清晨，西斯丘县治安官办公室工作人员、志愿救援者以及美国林务局攀岩护林员组成的队伍找到了他们。

治安官办公室在一份声明中提醒，登山前最好致电当地美国林务局沙斯塔山护林站获取最准确信息，切勿只依赖AI规划行程。声明还强调了攀登者应遵守“中午折返”的原则。据SFGate报道，获救登山者向护林员承认：“我们过度依赖AI，而没有运用自己的批判性思维。”其中一人手机虽然装有AllTrails应用，但在行程中没电了。

这类AI聊天机器人能快速提供搜索式答案，但从未登过山、处理过伤情。对于重要计划，用户应通过多个来源核实AI给出的信息。