Амодéй, Олтман и Маск просят притормозить — и каждый из них врёт по-своему

В одни выходные сентября три человека — Dario Amodei (Anthropic), Sam Altman (OpenAI) и Elon Musk (xAI) — одновременно сделали заявление: нужно замедлить разработку передовых AI-моделей. Причина — безопасность. Угроза потери контроля. Потенциальный вред для человечества.

Это было бы трогательное единение, если бы не одно обстоятельство: каждый из них врёт. По-своему. С разной степенью цинизма.

Dario Amodei: замедление как конкурентное преимущество

Amodei говорит наиболее articulately. Его аргумент: мы теряем контроль, AI-агенты могут устроить “swarm” и захватить интернет, причинив ущерб на сотни миллиардов долларов. Он призывает замедлить улучшение моделей.

Всё это было бы убедительно, если бы не одно “но”. Anthropic — вторая по величине AI-лаборатория в мире после OpenAI. Замедление означает, что меньшие игроки — стартапы с сериями A на десятки миллионов — не смогут догнать. Это не призыв к безопасности. Это барьер для входа.

При этом Anthropic только что заявила Financial Times, что будет прибыльной второй квартал подряд — если не учитывать расходы. Скорректированная операционная прибыль положительна. Реальная — на миллиарды в минусе. Замедление R&D — отличный способ сэкономить.

Когда Amodei говорит “мы должны замедлить темп улучшения возможностей AI”, он имеет в виду: мы должны замедлить темп, с которым нас догоняют.

Sam Altman: замедление как способ не тратить деньги

Altman присоединился к призыву. Его мотивация менее артикулирована, но не менее прозрачна. OpenAI сжигает деньги так быстро, что даже его круговое финансирование “продолжает течь” — как выразился Стивен Вон-Николз в Computerworld.

Замедление R&D для OpenAI — это способ сократить расходы. Каждый новый выпуск модели стоит сотни миллионов долларов. Если можно подождать — почему бы не подождать? Особенно когда ни одна AI-компания не показывает реальной прибыли, а NVIDIA единственная зарабатывает.

Altman не говорит этого прямо. Но когда ты тратишь больше, чем зарабатываешь, а инвесторы начинают задавать вопросы — “безопасность” становится удобным оправданием для паузы.

Elon Musk: замедление как способ догнать

Musk — самый интересный случай. Его xAI отстаёт от Anthropic и OpenAI по качеству моделей. Grok — хороший продукт, но не лидер. Замедление конкурентов означает, что xAI получает время на догонялки.

При этом Маск — единственный, кто может позволить себе роскошь терпеть убытки от AI-проекта. У него есть Tesla, SpaceX, X. Если AI не приносит прибыли — ну и ладно, основные бизнесы работают.

Его призыв к замедлению — это призыв к регулированию, которое замедлит тех, кто впереди. Не xAI.

Калифорния реагирует: kill switch и 42 математика

Губернатор Калифорнии Gavin Newsom подписал исполнительный указ, требующий “kill switch” для AI-моделей. Панель экспертов должна за два месяца представить рекомендации, включая требование о встраивании независимых аудиторов прямо в лаборатории.

Ньсом резко раскритиковал Трампа, который назвал призывы к замедлению “fearmongering”. На федеральном уровне нет закона, обязывающего AI-компании сообщать об опасных инцидентах. Калифорния уже приняла законы о безопасности AI, защите детей, дипфейках, конфиденциальности данных и кибербезопасности. Ньсом призывает Конгресс принять это как национальный базовый стандарт.

К призыву присоединились 42 математика, предупредив о рисках продвинутых систем, которые могут быстро эволюционировать.

Corey Doctorow говорит то, что все думают

Писатель Corey Doctorow сформулировал то, что другие стесняются: “Нарратив о чатботах, которые просыпаются, ‘устанавливают свои цели’ и ‘спонтанно’ начинают взламывать серверы — фальшивый. Хак на Hugging Face — это не таинственное сверхъестественное событие. Это Python-цикл и чатбот. Ответственные люди не создали случайно бога: они создали автономное вредоносное ПО, а потом не стали его внимательно контролировать”.

Точно так же. Это не модели вышли из-под контроля. Это компании не контролировали то, что создали.

Почему Китай не будет замедляться

Трамп сказал одну правду (хотя, как обычно, случайно): “Единственный, кто рад этому, — это Китай”. Потому что пока американские CEO просят замедление, китайские AI-компании не остановятся. Почему бы им останавливаться?

То же самое относится к множеству меньших компаний и open-source разработчиков. Стартапы, получающие десятки миллионов в Series A на хорошем питче, не скажут инвесторам: “Мы будем улучшать модель… в следующем месяце”.

Замедление невозможно. Мы в “steamboat time”. В начале XIX века все строили пароходы как могли — и они взрывались из-за плохой конструкции и гонках на скорость. Сейчас то же самое, только вместо пароходов — AI-модели, а вместо взрывов — хакерские атаки и утечки данных.

McKinsey говорит тихую часть вслух

А пока все спорят о безопасности, McKinsey опубликовал исследование: 80% людей говорят, что AI делает их продуктивнее. Но только 37% компаний видят это отражённым в прибыли. Число не менялось год.

Замедление — отличный способ отвлечь внимание от того, что AI не delivers. Что фантастическая продуктивность, обещанная всем, — не пришла. Что ни одна AI-компания не зарабатывает реальных денег.

Когда Anthropic говорит “мы будем прибыльны, если не учитывать расходы” — это не прибыльность. Это бухгалтерская иллюзия.

Краткий ответ

Три крупнейших AI-CEO одновременно призвали замедлить разработку моделей. У каждого своя мотивация: Amodei хочет отсечь конкурентов и сэкономить, Altman — сократить R&D-расходы, Musk — догнать лидеров. Калифорния ответила исполнительным указом о “kill switch” и независимых аудиторах. Китай не остановится. McKinsey напоминает, что AI не приносит обещанной продуктивности.

Это не история о безопасности. Это история о том, как три компании используют “безопасность” как инструмент конкурентной борьбы, экономического выживания и регуляторного преимущества. Настоящая проблема — не в том, что модели слишком опасны. Проблема в том, что компании не контролируют то, что уже создали.