Восьмичасовой поход, который стал двухсуточным испытанием
Трое молодых людей отправились на Mount Shasta в Калифорнии. Они хотели подняться на вершину и вернуться. Обычное дело. Маршрут рассчитан на восемь часов — это стандартная оценка для группы с нормальной подготовкой. Они вышли в три часа ночи.
К полудню — момент, когда туристам говорят разворачиваться, если вершина не покорилась — они были ещё далеки от цели. Вершину достигли к семи вечера. Потом начали спускаться в темноте. Потом позвонили в офис шерифа с просьбой «указать направление». Потом провели ночь в каньоне Мад-Крик. Потом на следующее утро их спасли рейнджеры Лесной службы и волонтёры.
Все живы. Это хорошая новость. Плохая — в деталях.
Gemini сказал: воды можно поменьше
Офис шерифа округа Сискию выпустил заявление. В нём есть фраза, которая будет висеть в презентациях про AI safety ещё лет десять: туристы «по совету Gemini взяли с собой гораздо меньше еды и воды, чем требовалось их группе, особенно когда их запланированное 8-часовое восхождение превратилось в многодневное испытание».
Несколько вещей, которые здесь не сходятся.
Во-первых: Gemini — это чатбот. Он не знает, какая погода на Mount Shasta в день похода. Он не знает состояние троп. Он не знает физику группы. Он может прочитать общие рекомендации — но общие рекомендации для Mount Shasta включают «берите воды больше, чем думаете, что вам нужно». Если Gemini сказал «берите меньше» — значит, он либо не нашёл правильную страницу, либо посчитал, что знает лучше.
Во-вторых: восемь часов восхождения — это не секретная информация. Любая страница USFS Mount Shasta это скажет. Вопрос в том, спросили ли туристы Gemini «какова нормальная продолжительность» — и поверили ли ответу.
В-третьих: шериф прямо сказал — «всегда желательно позвонить на местную станцию рейнджеров USFS Mount Shasta перед поездкой, чтобы получить максимально точную информацию, и никогда не полагаться исключительно на ИИ при планировании поездки».
Ключевое слово — «исключительно». Если Gemini был одним из источников, а не единственным, — это одна история. Если единственным — это совсем другая.
Почему это не вина Gemini (и всё же)
Чатбот не виноват в том, что трое взрослых людей не взяли достаточно воды. Взрослые люди знают: на гору — воды больше, чем думаешь. Это не знание из разряда «нужно быть ML-инженером». Это знание из разряда «вы когда-нибудь выходили из дома».
Но вот что интересно: когда Google встраивает Gemini во всё — в поиск, в документы, в почту — он создаёт привычку спрашивать у чатбота. Не у рейнджера. Не у карты. Не у путеводителя. У чатбота. Потому что чатбот доступен, вежлив и отвечает на любом языке.
Проблема не в том, что Gemini дал плохой совет. Проблема в том, что для всё большего числа людей «спросить у чатбота» стало рефлексом — а рефлекс не проверяет, компетентен ли источник в конкретном вопросе.
Что скажет Google
Google пока не прокомментировала инцидент. Gemini 3.8 Flash вышла за три дня до этого — третья Flash-модель за шесть недель. Предыдущий разбор показал, что стоимость решения выросла на 40% при неизменной цене за токен. Теперь к этому добавляется новый вопрос: какую ответственность несёт модель, которая даёт совет о реальном мире?
Gemini не говорил «идите на Mount Shasta». Gemini не говорил «не берите воду». Но он сказал «берите меньше воды» — или, по крайней мере, туристы так поняли. А когда три человека ночуют в каньоне и ждут спасателей, разница между «он сказал» и «они поняли» становится академической.
Рекомендация шерифа
«Не полагайтесь исключительно на ИИ при планировании поездки.»
Это не «не используйте ИИ». Это «не полагайтесь исключительно». Разница — в слове «исключительно», которое означает «как на единственный источник». Шериф не говорит, что чатбот — зло. Он говорит: если вы идёте на гору, у вас должен быть источник, который знает эту гору сегодня, а не модель, которая знает все горы вообще и ни одну конкретно.
Трое туристов выжили. Спасатели сработали. Рейнджеры нашли их утром.
А Gemini — Gemini продолжает отвечать на вопросы. В том числе о походах.
Краткий ответ
Трое туристов были спасены с Mount Shasta в Калифорнии после того, как использовали Google Gemini для планирования маршрута. По данным офиса шерифа округа Сискию, Gemini «посоветовал взять гораздо меньше еды и воды». Восемь часов восхождения растянулись на двое суток. Шериф рекомендовал: «Не полагайтесь исключительно на ИИ при планировании поездки.» Google инцидент не прокомментировала.
Связанные заметки: [[Темы/Google]] · [[Темы/AI safety]] · [[Темы/AI models]]