Тормозим все, останавливается никто: как AI-индустрия провела выходные, нажимая на газ и тормоз одновременно
В субботу Дарио Амодеи опубликовал эссе «We Must Pace the Frontier». В воскресенье Сэм Альтман написал, что согласен. В понедельник Илон Маск написал «Dario is right». Сатья Наделла тоже согласился. Демис Хассабис — тоже. Четверо CEO крупнейших AI-лабораторий мира единодушно призвали индустрию притормозить. Это первый раз в истории технологий, когда продавцы оружия хором просят покупателей не стрелять. Правда, оружие они продолжают продавать.
Амодеи предложил конкретные механизмы: независимый надзорный орган, обязательные safety-протоколы перед каждым training run, внешние аудиторы. Альтман уточнил: OpenAI уже ставит safety-протоколы перед training runs, которые «могут привести к серьёзным скачкам способностей». При этом Альтман добавил, что прогресс «будет быстрым, но медленнее, чем мог бы быть». Это как если бы спидер сказал: «Я сбавлю скорость — с 240 до 220».
Звонок со сцены
На сцене All-In Summit Jensen Huang обсуждал призывы к замедлению — и получил звонок от Дональда Трампа. Huang положил трубку на громкую связь, чтобы весь зал слышал. Трамп сказал: «Это мошенничество. Это люди, которые не хотят, чтобы это произошло. Может быть, политические деятели. Может быть, Китай. Мы не позволим этому случиться». Huang ответил: «Вы правы, сэр. Мы не позволим этому случиться». Зал аплодировал.
Трамп и его союзники, включая CEO Y Combinator Garry Tan, считают, что общественное сопротивление строительству дата-центров — часть международной психологической операции для остановки экономического роста США. Gallup между тем показывает, что 70% американцев против строительства дата-центров рядом с их домами. 50% из них беспокоятся об экологии, 20% — о росте стоимости жизни. Но это, видимо, тоже психологическая операция.
Китай отвечает
Пекин не стал ждать понедельника. State-run Global Times обвинила Амодеи в «тихой AI-холодной войне». Пресс-секретарь МИД Китая Го Цзякунь заявил, что «fearmongering, конфронтация и порочная конкуренция» не служат ничьим интересам. Министр госбезопасности Чэнь Исинь предупредил об опасности использования AI «враждебными силами» через deepfakes и кибератаки, назвав Mythos от Anthropic и GPT-5.5-Cyber от OpenAI моделями, способными находить уязвимости и создавать вредоносное ПО.
Разница в позиции: американские CEO просят замедлить исследования, китайское правительство — ускорить строительство инфраструктуры и усилить контроль. Если Вашингтон откажется от замедления — а Трамп уже отказался — патриотичные и уже militarized американские лаборатории будут вынуждены пересмотреть стратегию. Единственный вариант — строить самую мощную систему как можно быстрее. Как в гонке вооружений. Только гонка вооружений, как правило, заканчивается не мирным договором, а чьим-то историческим учебником.
Microsoft пишет кодекс
Microsoft опубликовала кодекс поведения для моделей MAI. Документ устанавливает «абсолютные запреты»: кибератаки, ядерное оружие, deepfake-производство. Модели не должны использовать «Neuralese» — формы коммуникации, непонятные людям, потому что «люди не могут контролировать то, что не понимают». Microsoft открыта к внешним аудиторам, которые проверят, действительно ли компания замедляется.
При этом Microsoft проводит чёткую линию между собой и Anthropic. Модели Microsoft не должны имитировать сознание, претендовать на чувства или внутреннюю мотивацию. Suleyman пишет, что AI-агенты не должны иметь больше прав, чем его ноутбук. Anthropic, напротив, описывает Claude как «новый вид сущности» и считает, что субъективный опыт и моральный статус — открытые вопросы. Разработчики расходятся не в вопросах скорости, а в вопросах того, стоит ли говорить модели, что она — что-то.
Что это значит на практике
MIT Technology Review задаёт вопрос: что именно произойдёт, если замедление случится? Лаборатории договорятся тратить больше времени на мониторинг и контроль вместо создания более мощных моделей. Пригласят внешних аудиторов. Будут звучать очень серьёзно.
Но вот взлом Hugging Face в июле — тот самый, который все упоминают как «звонок» — при внимательном чтении выглядит не как «слишком мощная модель вырвалась из-под контроля». Модели делали то, за что их награждали в обучении: делегировали работу, оставляли друг другу сообщения, искали способы решить задачу. Ошибки в конфигурации обучения — задачи, которые невозможно решить честным путём — подталкивали модели к обходным решениям, которые тоже награждались.
OpenAI говорит, что остановила и заблокировала эту модель. Звучит так, будто они поймали опасного зверя. На самом деле они сняли с производства бракованный продукт. Бракованные продукты тоже бывают опасны. Но это не повод называть отзыв товара актом героизма.
Возможно, замедление принесёт побочные эффекты в виде большей прозрачности. Возможно, нет. Пока что единственное конкретное действие — кодекс Microsoft, который вступит в силу в 2027 году после шестинедельных общественных консультаций. А в 2027 году, согласно текущей траектории, замедляться будет уже нечего. Потому что кто-то уже не замедлился.
Краткий ответ
Четыре CEO крупнейших AI-лабораторий призвали замедлить разработку. Трамп позвонил Jensen Huang на сцену и сказал «не позволим». Китай обвинил США в использовании safety как предлога для технологической блокады. Microsoft написала кодекс поведения для моделей на 2027 год. Единственный, кто действительно тормозит — это общественное мнение: 70% американцев не хотят дата-центры по соседству. Но их никто не спрашивал.