生成式助手能写行程清单,却不会替你承担高山上的决策责任。据SFGATE报道,西斯奇尤县警长办公室与美国林务局披露:三名来自Roseville的新手登山者在沙斯塔山(Mount Shasta)行动中,告诉救援人员他们曾依赖Google Gemini做路线与补给建议,并配合YouTube、AllTrails准备。TechCrunch AI栏目近窗亦将该事件列入简报。
沙斯塔山海拔约14179英尺,是北加州高风险登山目的地之一。三名年轻人缺乏高山经验,却把关键补给假设建立在对话式建议上:公开转述称Gemini建议携带简单碳水而非脂肪「因为脂肪消化太慢」,并按约八小时攀登准备食物与饮水。
事件经过要点:
所谓建议不等于计划,白话是模型给出的是统计意义上的「听起来合理」,不是针对你体能、季节与微地形的操作许可;所谓备份导航,白话是电子设备会没电,AI也会说错,纸图与正午折返规则才是底线。对产品团队,高风险场景需要把不确定性、拒绝回答与「请咨询专业人士」写进交互,而不是只追求更好答。
放在消费级AI安全上下文里,医疗、法律、户外等高代价决策,正在从边缘案例变成公共安全议题。执法部门公开点名「勿唯AI规划」,等于给行业一次可引用的警示样本——不是禁止使用助手,而是禁止把它当成唯一权威。
产业影响上,类似事件会推高助手产品的场景分级与免责设计压力,也可能催生与权威户外/救援机构的合作内容源。需要把边界读清楚:细节以执法与林务部门公开通报为准;模型具体回复原文未完整公开。下一观察点是Google是否调整户外等高风险提示策略,以及平台是否建立更明确的「危险活动」拒答或强提示机制。