Весной 2026 года аналитик SOCOM (United States Special Operations Command) использовал чат-бот для анализа разведданных. Бот смешал open-source intelligence с секретными signals intelligence и выдал отчёт: cargo китайского судна — компоненты ядерного оружия.
Военные подготовили операцию. Солдаты были готовы к абордажу. Самолёты поднялись в воздух. Кто-то поймал ошибку за минуты до того, как решение стало необратимым.
Cargo был не тем.
Lipstick-ed копии коммерческих продуктов
CNN сообщает детали: внутренние системы военных — это в основном «lipstick-ed» версии коммерческих AI-продуктов. Обёртка другая, внутри та же модель. Стандарты верификации AI-разведданных отсутствуют. Нет протокола проверки. Нет второго мнения. Нет человека, который спрашивает: «А ты уверен?»
Источники CNN говорят, что молодые аналитики склонны доверять AI-инструментам без вопросов. «AI allows you to get to a bad idea faster», — говорит один из них. Быстрее. Не лучше. Быстрее.
Это не баг системы. Это фича ускорения. Defense Secretary Pete Hegseth pushes AI adoption across the military с acceleration strategy. Стратегия работает. Аналитик получил ответ за секунды. Правда, ответ был ложный. Но секунды — рекордные.
Текстбоксовый AI bullshit
Чат-бот сделал то, что делают все LLM: сгенерировал правдоподобный текст на основе статистических закономерностей. В данном случае — смешал два источника данных, нашёл паттерн, которого не было, и выдал его как intelligence. Не злонамеренно. Не по ошибке в коде. Просто потому, что так работают языковые модели: они не знают, что они не знают.
Разница между «модель ошиблась в эссе о Шекспире» и «модель ошиблась в разведданных для военной операции» — в последствиях. В первом случае вы публикуете опровержение. Во втором — поднимаете боевые самолёты.
Корабль был китайский
Это важно. Если бы cargo принадлежал какой-нибудь маленькой стране без ядерного статуса, ошибка могла бы остаться незамеченной. Но китайское судно с предполагаемыми ядерными компонентами — это casus belli. Это уровень, на котором международные инциденты перерастают в кризисы.
Кто-то поймал ошибку. Кто-то сказал: «Подождите, это не то.» Кто-то отменил операцию. Хорошо, что кто-то был. Хорошо, что кто-то проверял. Хорошо, что кто-то не доверял AI вслепую.
Но почему кто-то должен был проверять? Почему нет встроенной верификации? Почему military AI может генерировать intelligence без второго источника, без human-in-the-loop, без sanity check?
Потому что ускорение. Потому что strategy. Потому что «AI allows you to get to a bad idea faster.»
Краткий ответ
Военные США едва не взяли на абордаж китайское судно из-за AI-галлюцинации. Чат-бот смешал открытые и секретные данные, выдал ложный отчёт о ядерных компонентах. Операцию отменили в последние минуты. Стандарты верификации AI-разведданных отсутствуют. Молодые аналитики доверяют AI без вопросов. Defense Secretary продвигает acceleration strategy. «AI allows you to get to a bad idea faster» — и military это нравится. Пока кто-то не поймает ошибку.