В один из дней этой недели генеральный директор Anthropic Дарио Амодэи опубликовал эссе длиной почти 4 000 слов, призывающее к замедлению разработки AI. Его поддержали Сэм Альтман из OpenAI и Илон Маск из xAI — эта же троица неделей ранее позировала для совместного фото на гольф-курсе. На следующий день Цукерберг объявил, что задержал Muse «на несколько месяцев» ради безопасности. А Cohere написала в блоге, что всё это похоже на картель.
«Pacing the frontier»: 4 000 слов в защиту замедления
Амодэи изложил аргумент в пользу того, почему разработка AI должна быть замедлена, чтобы можно было развернуть адекватные guardrails. Этот план включает — среди прочего — международную стратегию сотрудничества между компаниями и правительствами по безопасному развёртыванию. Ривальные руководители — Альтман и Маск — поддержали план Амодэи.
Эссе спровоцировало дальнейшие дебаты в технологической индустрии, хотя не все согласились с призывом Амодэи к глобально координированным действиям. Многие считают, что государственный надзор не обязательно должен играть какую-либо роль.
Последними в дебаты вступили Марк Цукерберг и сооснователь Reddit Алексис Оганян. Цукерберг написал в X: «My view is that trust and alignment are quickly becoming the most important capabilities that will differentiate agents and models.» Он также сообщил, что Meta задержала выпуск своей AI-модели на несколько месяцев ради безопасности. «We didn’t call for everyone else to do this before we would. We just did it as part of our day-to-day work because it was clearly the right thing for people and for us.»
Цукерберг — который поддержал часть плана Амодэи — предполагает, что государственные действия не нужны, и что органические стимулы, структурирующие индустрию, заставят компании правильно обеспечить безопасность. Рынок в конечном итоге должен привести к успеху компании, которые заботятся о создании моделей, не вызывающих хаос.
«Не вы всё умрёте через 10 лет» — спикер Палаты представителей
Несмотря на призывы крупных лабораторий к государственно-частному сотрудничеству, некоторые сторонники регулирования, похоже, вполне довольны тем, что бизнес пишет собственные правила. The Information сообщил, что OpenAI, Anthropic и другие крупные AI-компании работали вместе над созданием организации AI-стандартов — описанной одним изданием как частный «саморегулируемый орган».
Ранее обсуждалось создание аналогичной федеральной организации. Однако администрация Трампа — которая включает ярких сторонников AI и в основном выступает за нерегулируемый технологический бизнес (администрация даже пыталась насильственно остановить правительства штатов от введения собственных AI-законов) — не pursued это направление. «AI-царь» администрации, ветеран tech-индустрии Дэвид Сакс, заявил, что регулирование AI должно быть оставлено компаниям, которые его разрабатывают.
Спикер Палаты представителей Майк Джонсон адресовал обеспокоенность по поводу катастрофических достижений AI так: «You’re not all going to be dead in 10 years.»
Приватная организация будет держать индустрию нерегулируемой, за исключением добровольных обязательств, и, естественно, предоставит определённое количество власти и влияния компаниям, ответственным за её создание.
Cohere назвала картелем, Китай — холодной войной
Это приводит к ещё одномуongoing утверждению, что призывы индустрии к регулированию — на самом деле стратегия «regulatory capture». Согласно этому аргументу, мощные компании, которые уже занимают видное положение в индустрии, могут использовать регуляторные уловки, чтобы вытеснить или disadvantaged более мелкие, менее ресурсные компании — тем самым подавляя конкуренцию. Это не обязательно связано с реальными регулированиями, но может включать добровольные отраслевые стандарты, которые тем не менее создают давление на менее мощные фирмы.
Многие видные голоса в китайском правительстве эхом отразили эту позицию. После того как Амодэи призвал «pacing the frontier» на этой неделе, представитель Министерства иностранных дел Китая Гуо Цзиякун обвинил американцев в использовании «fear mongering» для disruption развития глобального управления AI, а редакционная статья в государственной газете Китая назвала риторику Амодэи прямым «Cold War playbook».
Амодэи даже признаёт, что это цель. «If we execute these measures well, I believe they would slow China’s progress enough to widen America’s lead significantly over the next 3–5 years — the window when AI becomes geopolitically most important», — написал он.
Эйден Гомес, CEO канадской AI-фирмы Cohere, недавно обвинил эти компании в формировании «cartel», написав в блоге: «AI needs guardrails. That is not the dispute and never has been. The dispute is over who writes them, who gets to participate and whose interests the rules are protecting.»
Король Карл III: «Нужны средства контроля, пока не слишком поздно»
Король Карл III провёл частный саммит с некоторыми из самых видных имён в AI и британским правительством, включая Дженсена Хуанга из Nvidia, руководителей OpenAI и Anthropic, нового AI-министра Великобритании Канишку Нараяна и даже главу британской службы внешней разведки MI6. Паоло Бенанти, советующий папе по вопросам AI, тоже был там.
Замечания короля были примечательны, потому что королевская семья обычно осторожна — по конституционным причинам — в вопросах углубления в политические проблемы. А AI — одна из самых острых тем в мире прямо сейчас. Король призвал лидеров найти способ контролировать AI «before it’s too late», добавив, что быстрое развитие этой технологии «intriguing and deeply concerning».
«AI is already showing immense capacity to improve and save life», — сказал он. «Yet those who have created these technologies are now increasingly warning that AI risks developing darker capacities, perhaps even to take life.» Это замечание прозвучало через несколько дней после того, как исследователь Anthropic уволился, написав в сети, что AI-компании «racing to build machines that are much smarter than any human» и что человечество «may not survive this.»
«Surely, we need sufficient means of control before it’s all too late?» — сказал король. Завершая речь, он призвал лидеров найти способ использовать благо AI и построить международное сотрудничество.
Краткий ответ
AI-индустрия переживает момент, когда крупнейшие CEO призывают замедлить прогресс ради безопасности, одновременно запуская новые продукты и готовя IPO. Cohere называет это картелем, Китай — холодной войной, спикер Палаты представителей — «вы не умрёте через 10 лет», а король Карл III — «контроль пока не поздно». Безопасность это или контроль — зависит от того, кого спрашивать. Но те, кто призывает к замедлению, продолжают ускоряться.