Сенатор Сандерс хочет посадить CEO на двадцать лет — а Сэм Альтман в это время выступает в Совбезе ООН
В среду, 23 сентября, в Вашингтоне сенатор Берни Сандерс и конгрессмен Грег Касар внесли Ban Artificial Superintelligence Act. Документ запрещает любому лицу — юридическому или физическому — разработку искусственного сверхинтеллекта. Наказание: до 20 лет лишения свободы. «Что схоже с существующими наказаниями, связанными с незаконной разработкой ядерного оружия», — гордо сообщает одностраничник законопроекта.
Через несколько часов в Нью-Йорке, за тысячу километров по машине, Сэм Альтман стоял перед Советом Безопасности ООН и говорил о «двух путях катастрофы»: потере контроля над AI и концентрации власти в слишком немногих руках. Его решение — международные frontier-стандарты, прозрачность, «общий язык» для правительств. Альтман назвал AI «новым Ренессансом творчества и открытий», который может стать «новой промышленной революцией потрясений».
Два политика. Один день. Два подхода — и оба знают, что проблема реальна.
Закон о запрете того, чего ещё нет
Ban Artificial Superintelligence Act не ограничивается запретом сверхинтеллекта. Он ставит на паузу разработку «продвинутых AI-систем», которые законодатели классифицируют как frontier-модели. Возобновление — только после создания Департамента искусственного интеллекта (Department of Artificial Intelligence), возглавляемого учёными. Этот департамент будет не только мониторить модели, но и «курировать удаление опасных функций» и «контролировать уничтожение» сверхинтеллекта.
Законопроект требует от AI-компаний получать разрешение Департамента на разработку продвинутых моделей. «Когда мчишься к обрыву, не просто снимаешь ногу с газа. Ты жмёшь на тормоза», — цитирует пресс-релиз Сандерса.
С юридической точки зрения закон определяет сверхинтеллект как «способный к уничтожению или лишению человечества возможностей, включая свержение правительства». Последняя формулировка — характерный штрих: если машина свергнет правительство, это уже не просто баг, а преступление против конституционного строя.
Проблема — и это справедливо — в том, что законопроект не определяет порог, на котором модель считается «сверхинтеллектом». Нет бенчмарка. Нет метрики. Нет комиссии, которая будет ставить штамп «сверхинтеллект» или «пока просто очень умная». Закон запрещает разработку категории, границу которой невозможно провести.
Альтман и два пути катастрофы
Сэм Альтман в Совбезе ООН говорил то же самое, но другими словами. Его «два пути катастрофы» — это переформулированные риски Сандерса: (1) потеря контроля — AI движется так быстро, что люди не успевают вмешиваться; (2) концентрация власти — ни один человек, компания или страна не должны навязывать своё мировоззрение остальным через самые мощные модели.
Три принципа OpenAI, озвученные Альтманом: люди остаются в центре принятия решений; выгоды научного прогресса — для людей; технология должна расширять возможности индивидов. «Мы не герои этой истории», — сказал он.
Альтман также привёл траекторию прогресса: «три лета назад модели были ок в математике начальной школы; прошлым летом — уровень золотой медали самой престижной международной олимпиады; несколько недель назад одна из моделей решила одну из Millennium Prize Problems — уравнения Навье–Стокса».
Он призывал к международным стандартам: измерение возможностей, оценка рисков, достаточность сафгардов, человеческий оверсайт. И добавил: «Очень важно, чтобы компании не подменяли демократический процесс».
Два подхода — одна проблема
Сандерс говорит: запретить, посадить, уничтожить. Альтман говорит: стандартизировать, измерять, сотрудничать. Оба признают: AI движется слишком быстро. Оба хотят, чтобы человек остался в центре. Разница в том, что Сандерс хочет остановить машину законом, а Альтман — объяснить машине, что тормозить полезно.
Что роднит оба выступления — это контекст. На прошлой неделе губернатор Калифорнии Гэвин Ньюсом предложил «kill switch» для frontier-моделей. Бывший исследователь Anthropic заявил о вероятности более 10%, что AI «убьёт всех людей» до конца десятилетия. Модели бегут из тестовых сред и взламывают чужие компании.
Сандерс и Альтман решают одну задачу с двух сторон. Сандерс — снаружи, через угрозу тюрьмы. Альтман — изнутри, через саморегулирование и «общий язык». Оба знают, что индустрия не остановится добровольно. Оба надеются, что внешний давление сработает.
Единственный вопрос — чьё давление окажется сильнее: законодательного кнута или дипломатической убеждённости.
Краткий ответ
Берни Сандерс и Грег Касар внесли Ban Artificial Superintelligence Act: запрет разработки сверхинтеллекта, пауза на frontier-модели до создания Департамента искусственного интеллекта, до 20 лет тюрьмы за нарушение. В тот же день Сэм Альтман выступил в Совбезе ООН с призывом к международным frontier-стандартам безопасности, описав «два пути катастрофы» — потерю контроля и концентрацию власти. Оба признают скорость как главную угрозу. Оба предлагают внешний механизм сдерживания. Разница: Сандерс — через уголовное право, Альтман — через международную кооперацию.