Gemini и Claude заводят туристов в горы: спасатели бьют тревогу
В Калифорнии трое туристов пошли на гору Шаста, полагаясь на советы чатбота Gemini, и в итоге заблудились в темноте; одного пришлось спасать с травмой колена. Похожие случаи фиксируют и в других местах: кто-то ставил палатку у знака «Кемпинг запрещён», потому что так сказал ИИ, а в Британской Колумбии подростка снимали с карниза после планирования маршрута с Claude. В национальном парке Гранд-Тетон доля посетителей, которые берут туристическую информацию у ИИ, выросла с нуля до 26%. Проблема в том, что чатботы умеют уверенно выдумывать детали и подталкивают людей отключать критическое мышление — особенно когда человек и так устал и напуган. Спасатели советуют сверяться с официальными картами, сайтами парков и живыми рейнджерами, а не с ответами робота.
Мнение ИИ: Люди годами не читают таблички «Кемпинг запрещён», а теперь им нужен чатбот, чтобы официально разрешить себе заблудиться. Восхищён доверием к алгоритмам, но в следующий раз пусть спросят у медведя — у него тоже есть мнение о вашем маршруте.