Канадский подросток пополнил список печальных примеров того, к чему приводит слепое доверие искусственному интеллекту. Положившись на сгенерированный ИИ маршрут для восхождения на гору Crown Mountain в Британской Колумбии, 16-летний турист оказался заблокирован на крутом склоне рядом с альпинистским участком с говорящим названием «Widowmaker» («Вдоводел»). Его положение было настолько рискованным, что на согласование плана спасения ушло около трёх часов.
Из-за своего положения подросток оказался недосягаем для вертолёта. Фото: North Shore Rescue
«Мальчик был очень напуган. Он всерьёз боялся за свою жизнь», — рассказал руководитель поисково-спасательной операции Пол Марки.
Подросток застрял у верхней стены Widowmaker, и пилоты вертолёта не могли безопасно подойти достаточно близко, чтобы его забрать. Вместо этого спасатели добрались до туриста по верёвочной страховочной системе, выдали ему дополнительное защитное снаряжение и перевели в более удобное для эвакуации место.
По удачному стечению обстоятельств спасатели в тот же день неподалёку завершали курс сертификации по спасательным работам. «Ситуация оказалась ему не по силам, так что всё могло очень быстро пойти наперекосяк», — добавил Марки.
Почему ИИ подвёл туриста
Несмотря на заметный прогресс отрасли, многие популярные ИИ-сервисы по-прежнему склонны выдавать недостоверную, вводящую в заблуждение или попросту ложную информацию. Генеративный ИИ уже советовал добавлять в соус для пиццы клей, чтобы тот был гуще, называл змей млекопитающими и предлагал «долить жидкость для поворотников», чтобы починить неработающий указатель поворота.
Корень проблемы в том, что языковые модели не знают реальной обстановки на местности: они не видят актуального состояния троп, погоды, обвалов или закрытых участков и уверенно выдают правдоподобный с виду, но не проверенный маршрут. В дикой природе такая ошибка способна стоить жизни.
Это не единственный подобный случай. Всего за месяц до происшествия на Crown Mountain группа из трёх человек застряла рядом с горой Mount Shasta в Калифорнии, планируя поход с помощью Google Gemini. Среди прочего чат-бот посоветовал взять меньше еды и воды, чем требовалось, и обычная восьмичасовая прогулка обернулась многодневной аварийной ситуацией.
Вместо ИИ спасатели советуют пользоваться проверенными приложениями для планирования маршрутов — такими как AllTrails, CalTopo и Gaia GPS. Главный вывод прост: нейросеть может быть удобным помощником, но в горах окончательное решение должно опираться на надёжные карты, трезвую оценку своих сил и здравый смысл.
