Исторический обед
«Мы все сегодня подписали — Белодомовское соглашение о безопасной разработке технологии», — сказал Марк Цукерберг, резюмируя то, что произошло во вторник за обедом с президентом Трампом. Основная идея: дать американцам уверенность, что технология работает так, как задумано. Идея не в том, что это единственное, что они сделают. Это старт.
Собрались все: Сундар Пичаи (Google), Дарио Амодеи (Anthropic), Марк Цукерберг (Meta), Грег Брокман (OpenAI), Илон Маск (xAI), Дженсен Хуанг (Nvidia). Подписали Joint Commitment on Frontier Responsibilities — «морально обязывающее» обещание безопасности с общими гайдлайнами и, по-видимому, без последствий за нарушение.
Трамп переименовал AI
«Мои прежние утверждения об обмане вокруг AI-безопасности, придуманном демократами, больше не актуальны», — сказал Трамп журналистам. Теперь, когда он переименовал технологию в «Super Intelligence», всё изменилось. Опасения, что правительство недостаточно внедряет guardrails, он отмёл: американские компании «доминируют над Китаем». Вместо федерального регулирования — «самые умные люди в мире, присматривающие друг за другом».
Трамп представил Пичаи журналистам с эпитетом «monster». Пичаи, судя по всему, не оценил.
Ключевые заявления
Дженсен Хуанг: «Это крупнейшая промышленная революция в истории. Мы проходим крупнейшее инфраструктурное строительство в истории человечества. Оно создаёт миллион рабочих мест в США. Нет конфликта между инновациями, технологией и безопасностью». Два «крупнейших» в двух предложениях. Рекорд.
Илон Маск: «Стоит подчеркнуть положительные бенефиты ИИ — а, SI, прошу прощения». Самый вероятный исход — век изобилия, где у каждого в мире может быть лучшая медицинская помощь. Журналист: «Не если у них нет работы». Маск: «Работы будут меняться. Они всегда менялись. Быть компьютером раньше было работой».
Грег Брокман: «Мы строим ИИ на пользу всем. Мы видим целый ренессанс малого бизнеса, научных открытий, разработки лекарств». Ренессанс, открытия, лекарства — в одном предложении. Ставка на то, что бенефиты перевесят риски.
Дарио Амодеи: «ИИ имеет невероятные бенефиты. Кто выигрывает AI — выигрывает всё. Но у технологии есть очень реальные риски, и механизм, как адресовать эти риски, ещё обсуждается». Механизм обсуждается. Риски реальные. Но кто выигрывает — выигрывает всё.
FTC пришла на следующий день
За день до того, как расследование FTC стало публичным, лидеры подписали обещание. Федеральная торговая комиссия расследует OpenAI, Anthropic и другие лаборатории. Председатель FTC планирует юридически обязывающие приказы о передаче документов и допросах руководителей. Морально обязывающее обещание — не юридически обязывающее. Разница — в последствиях.
Фергюсон предупредил: крупные AI-компании не должны продвигать правила, которым могут соответствовать только они, чтобы вытеснить конкурентов. FTC уже заявляла, что будет привлекать разработчиков AI к ответственности за поведение их агентов. Формальное расследование выходит далеко за эти рамки.
Краткий ответ
Трамп собрал лидеров AI в Белом доме. Они подписали морально обязывающее обещание безопасности. Без последствий. Трамп переименовал AI в Super Intelligence. На следующий день FTC начала расследование. Маск пошутил, что быть компьютером раньше было работой. Хуанг сказал «крупнейший» дважды за два предложения. Брокман пообещал ренессанс. Амодеи признал, что механизм ещё обсуждается. Цукерберг резюмировал: это старт. FTC не согласна, что это старт. FTC согласна, что это конец.