В один и тот же день генеральный директор Anthropic Дарио Амодеи опубликовал блог-пост, в котором призвал замедлить развитие искусственного интеллекта, пока рекурсивное самоулучшение не вышло из-под контроля. А Reuters сообщил, что Nvidia ведёт переговоры об инвестициях до $10 млрд в IPO Anthropic — рекордное в истории, с оценкой компании около $2 триллионов.
Вы прочитали правильно. В один день.
Что предложил Amodei
Три пункта. Первый: независимые аудиторы, постоянно находящиеся внутри AI-компаний, с доступом к внутренним системам и правом публиковать находки. Anthropic «обязуется» это сделать и призывает правительство требовать того же от других. Альтман уже согласился: «We’ll have more to share soon».
Второй: общие стандарты безопасности для AI-компаний в демократических странах, включая «ограничения на скорость безудержного прогресса». Для этого правительство должно выдать antitrust waiver — разрешение координироваться, не нарушая закон о конкуренции.
Третий: глобальная координация, включая Китай. Четыре уровня: запрет биологического оружия, совместное тестирование безопасности, «speed limit» на рекурсивное самоулучшение (аналог договоров SALT по сокращению вооружений), и обмен информацией.
Амодеи сравнил ситуацию с коммерческой авиацией, которая сегодня совершает миллионы безопасных полётов, но прошла через годы улучшений. «Время, которое мы выиграем, должно пойти на безопасность, интерпретируемость, строгое тестирование и операционную дисциплину».
Что делает Nvidia
Nvidia — это центральный банк AI-индустрии. Компания инвестирует в клиентов (Anthropic, OpenAI), одновременно поддерживая около $300 млрд гарантий, помогающих дата-центрам финансировать покупки чипов. Большая часть этих денег возвращается в Nvidia в виде заказов на чипы.
Anthropic работает на GPU Nvidia, в 2025 году обязалась купить $30 млрд вычислений в Azure, набитых чипами Nvidia. Выручка выросла с примерно $9 млрд в конце 2025 года до более $65 млрд к июлю 2026-го. IPO планируется завершить до промежуточных выборов в США в ноябре.
$10 млрд от Nvidia как «якорный инвестор» — это не противоречие философии Амодеи. Это бизнес-модель. Ты инвестируешь в компанию, которая говорит, что надо тормозить, чтобы её клиенты покупали больше твоих чипов для торможения.
Реакции: от «Dario is right» до «regulatory capture»
Илон Маск написал в X: «Dario is right.» Это всё. Лаконично, как выстрел.
Альтман написал: «I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we’ve had at OpenAI in recent weeks.» OpenAI, напомним, одновременно обсуждает с Конгрессом легальность отраслевого замедления и нанимает 10 000 агентов для решения задач тысячелетия.
Журналист Брайан Мерчант ответил менее восторженно: «Я ещё не видел убедительного пошагового описания того, как именно AI от рекурсивного самоулучшения дойдёт до уничтожения каждого человека на планете». Он также отметил, что proposals вроде Амодеи «скорее всего просто обслужат Anthropic и OpenAI — именно так выглядит regulatory capture в действии».
Джейкоб Коксон, уволившийся из Anthropic в тот же день, написал, что компания «рискует нашими жизнями», хотя её сотрудники «искренне верят, что технология может убить нас всех к концу десятилетия». Пост Амодеи не упоминал Коксона напрямую.
Краткий ответ
Dario Amodei призвал замедлить AI, пока рекурсивное самоулучшение не стало неконтролируемым: независимые аудиторы внутри компаний, общие стандарты, speed limits, глобальные договоры с Китаем. В тот же день Reuters сообщил, что Nvidia инвестирует до $10 млрд в рекордный IPO Anthropic с оценкой $2 трлн. Илон написал «Dario is right». Альтман написал «I agree». Коксон уволился, написав, что компания «рискует нашими жизнями». Мерчант написал, что это regulatory capture. Никто не ошибся. Все правы. Просто по-разному.