三名徒步旅行者信任 Gemini 规划行程，结果第二天需要救援
加州三名新手徒步旅行者在使用 Google Gemini 规划沙斯塔山（Mount Shasta）攀登行程后，需要救援。据报道，该人工智能聊天机器人建议他们携带不足够的食物和水进行远征。该小组于星期日晚上约 7 时到达山顶，远远超过建议的中午折返时间，随后在黑暗中下降时迷路。其中一名徒步旅行者膝盖受伤，迫使该小组在泥溪峡谷（Mud Creek Canyon）过夜，直到第二天早上获救。这起事件凸显了单独依赖人工智能进行关键规划的风险，呼应了之前人工智能提供有缺陷的法律和医疗建议的问题。
Google Gemini 与沙斯塔山（Mount Shasta）徒步旅行者的事件，凸显了人工智能在亚洲普及的一个关键限制：在高风险应用中需要人为监督。虽然 Gemini 等人工智能工具日益融入日常生活，但其目前的能力不适合需要事实准确性和安全性至关重要的情境。锡斯基尤县（Siskiyou County）警长办公室特别警告不要单独依赖人工智能进行行程规划，建议徒步旅行者使用多种导航方法并咨询当地护林站。这项警告也适用于人工智能出现类似缺陷的其他领域，例如法律和医疗建议，聊天机器人曾生成不存在的案例或不完整的信息。对于亚洲市场而言，这对人工智能开发商和监管机构来说是一个持续的挑战。部署人工智能解决方案的公司必须清楚地说明其局限性，并强调需要人为验证，尤其是在旅游、医疗保健或金融等领域。这起事件提醒我们，即使是先进的模型，“Gemini 是人工智能，可能会犯错”的免责声明不仅仅是法律套话；它反映了一个真实世界的风险，如果处理不当，可能会影响整个地区的用戶信任和普及率。
相关文章
6 则
金融服务业AI支出增加，但大多数举措仍未能展现实质业务价值
Our past coverage shows that despite rising AI spending, many initiatives still struggle to demonstrate tangible business value.
中国的 Moonshot 和 Z.ai 将 AI 模型订阅战带到天猫零售货架
We previously reported on the race to bring AI models, like Gemini, to retail shelves in China.
《人民日报》驳斥美国恶意AI蒸馏指控，警告将采取反制措施
Databricks 将在新加坡投资逾 3.5 亿美元，员工人数翻倍
Personetics 推出适用于客户关系经理的 AI 银行控制台
