📰 重點摘要

三名年輕男子這週於加州沙斯塔山健行時,使用Google的AI聊天機器人Gemini規劃行程,結果因裝備與補給嚴重不足,最終需出動救援。根據Siskiyou郡治安官辦公室的報告,三人凌晨3點出發,雖然一般建議健行者若中午前未登頂就該折返,他們仍持續前進,直到晚上7點才抵達山頂。下山時天色已暗,三人一度致電治安官辦公室詢問方向,並在Mud Creek峽谷中露宿一夜,隔天早上才由美國林務署巡山員與志工救出。治安官辦公室指出,雖然無法確定Gemini需為所有決策失誤負全責,但Gemini建議這群人攜帶的食物與飲水,遠少於實際需求量,尤其原本規劃8小時可完成的登頂行程,最終卻演變成長達數日的艱困考驗。治安官辦公室也提醒,出發前務必致電當地美國林務署沙斯塔山巡山站確認最新路況資訊,切勿完全依賴AI進行行程規劃。

💬 JudyAI Lab 觀點

三名年輕人這週用Gemini規劃沙斯塔山健行行程,結果裝備補給嚴重不足,一趟原估8小時的登頂行程演變成露宿峽谷、出動搜救才脫困,凸顯AI規劃戶外行程時對真實風險的判斷落差。

這起事件反映一個值得AI builder留意的設計盲點:當AI工具被用在高風險、高變動的實體世界場景(如荒野健行、極端天氣、體能負荷)時,它給出的建議往往基於一般化的文字資訊,缺乏對當地路況、季節條件、使用者實際能力的即時掌握。治安官辦公室特別提醒,即使有AI建議,出發前仍需致電當地巡山站確認最新路況,不能完全依賴AI取代在地即時資訊與人工判斷。這也提醒開發者,涉及安全的應用應該明確標示AI建議的侷限性,而非讓使用者誤以為輸出等同專業評估。

下次藉助AI規劃任何戶外或高風險行程時,記得把AI建議當作起點,再向當地權威單位或有經驗者做一次交叉確認。

📅 原文資訊

🔗 延伸閱讀