据Engadget报道，美国加利福尼亚州一队登山者因轻信谷歌Gemini聊天机器人提供的路线和补给建议，在攀登沙斯塔山时准备严重不足，最终被困，被救援人员找回。这一事件表明，AI生成的信息可能误导用户作出危险决策。

登山者出发前使用Gemini做路线研究，并询问应携带多少食物和水。Gemini告诉他们，登顶全程只需8小时，建议携带简单碳水化合物而不是脂肪，理由是脂肪“消化太慢”。他们据此只带了轻便的日间背包，食物和水仅够一次短途徒步，没有携带庇护装备和保暖衣物。

据Siskiyou县警长办公室通报，登山者于8月29日设立大本营，8月30日凌晨3时开始攀登。他们花了16小时才抵达山顶，当时已是晚上7时，远晚于中午12时的建议折返时间。天色转暗后，他们沿错误的路线下撤，用来导航的AllTrails应用也在没到山脚前因手机没电而停止工作。

登山者随后拨打911求助。8月31日上午9时30分左右，美国林务局登山护林员和Siskiyou县警长办公室搜救队终于与他们取得会合。由于天气条件不允许直升机靠近，他们只能徒步下撤，这段路程又耗时9小时。登山者告诉SFGate：“我们过于依赖AI而不是自己的判断。”Siskiyou县警长办公室提醒，登山者应当在出发前致电沙斯塔山护林站获取最新信息，绝不能仅依赖AI来做行程规划。