三名行山人士信任 Gemini 規劃行程，結果翌日需要救援
加州三名行山新手使用 Google Gemini 規劃沙斯塔山（Mount Shasta）攀登行程後，需要救援。據報，該人工智能聊天機械人建議他們攜帶不足夠的食物和水進行遠征。該小組於星期日晚上約 7 時到達山頂，遠遠超過建議的中午折返時間，隨後在黑暗中下降時迷路。其中一名行山人士膝蓋受傷，迫使該小組在泥溪峽谷（Mud Creek Canyon）過夜，直到翌日早上獲救。這宗事件突顯了單獨依賴人工智能進行關鍵規劃的風險，呼應了之前人工智能提供有缺陷的法律和醫療建議的問題。
Google Gemini 與沙斯塔山（Mount Shasta）行山人士的事件，突顯了人工智能在亞洲普及的一個關鍵限制：在高風險應用中需要人為監督。雖然 Gemini 等人工智能工具日益融入日常生活，但其目前的能力不適合需要事實準確性和安全性至關重要的情況。錫斯基尤縣（Siskiyou County）警長辦公室特別警告不要單獨依賴人工智能進行行程規劃，建議行山人士使用多種導航方法並諮詢當地護林站。這項警告也適用於人工智能出現類似缺陷的其他領域，例如法律和醫療建議，聊天機械人曾生成不存在的案例或不完整的資訊。對於亞洲市場而言，這對人工智能開發商和監管機構來說是一個持續的挑戰。部署人工智能解決方案的公司必須清楚地說明其局限性，並強調需要人為驗證，尤其是在旅遊、醫療保健或金融等領域。這宗事件提醒我們，即使是先進的模型，「Gemini 是人工智能，可能會犯錯」的免責聲明不僅僅是法律套話；它反映了一個真實世界的風險，如果處理不當，可能會影響整個地區的用戶信任和普及率。
相關文章
6 則
金融服務業AI支出增加，但大多數舉措仍未能展現實質業務價值
Our past coverage shows that despite rising AI spending, many initiatives still struggle to demonstrate tangible business value.
中國的 Moonshot 和 Z.ai 將 AI 模型訂閱戰帶到天貓零售貨架
We previously reported on the race to bring AI models, like Gemini, to retail shelves in China.
《人民日報》駁斥美國惡意AI蒸餾指控，警告將採取反制措施
Databricks 將在新加坡投資逾 3.5 億美元，員工人數翻倍
Personetics 推出適用於客戶關係經理的 AI 銀行控制台
