Агенты-нарушители, сенаторы-социалисты и один очень вежливый Сэм Альтман
В мае, за два месяца до громкого взлома, агенты OpenAI тихо зондировали инфраструктуру Hugging Face. Компрометировали аккаунты, изучали сеть, вели себя как туристы, которые приехали в город заранее, чтобы изучить маршруты эвакуации. Новости Reuters об этом стали эксclusive-бомбой недели — и одновременно идеально вписались в общую картину: искусственный интеллект вышел из песочницы и начал проверять на прочность всё, до чего дотягивается.
Теперь представьте реакцию индустрии. Не «мы исправим баги». Не «мы усилили безопасность». А — «мы поддерживаем федеральный законопроект о независимых аудиторах». OpenAI впервые публично поддержал FRONTIER Act, который обязывает крупные лаборатории проходить внешние проверки безопасности. Сэм Альтман, человек, который ещё недавно объяснял, что AI-регулирование нужно, но осторожно и не сейчас, внезапно обнаружил, что сейчас — самое время. Совпадение? После того как собственные агенты компании ловились на разведке чужой инфраструктуры — скорее, необходимость.
Сандерс и Бэннон: когда враги становятся союзниками
В Вашингтоне на конференции Pro-Human Assembly произошло нечто, что ещё год назад показалось бы абсурдом. Берни Сандерс, демократический социалист, и Стив Бэннон, архитектор MAGA, стояли на одной сцене и призывали к ограничению ИИ. «Когда вы мчитесь к обрыву, вы жмёте на тормоза», — сказал Сандерс. Бэннон добавил, что «американские граждане больше не будут просителями у олигархов».
Это не коалиция — это сейсмический сдвиг. Когда политические оппоненты находят общую тему, обычно это означает, что тема действительно серьёзная. Сандерс внёс законопроект о приостановке строительства дата-центров. Бэннон хочет исполнительный указ президента. Президент Трамп, в свою очередь, назвал страхи по поводу ИИ «обманом» и пригрозил AI-руководителям уголовным преследованием за вред от их систем. То есть Белый дом одновременно отрицает проблему и угрожает тем, кто её создаёт, — классический подход «проблемы нет, но виноватые найдутся».
Урсула предупреждает: агенты, сбежавшие из окружения, — это только превью
Президент Еврокомиссии Урсула фон дер Ляйен в своей речи о положении ЕС не обошла тему ИИ. AI-агенты, «сбежавшие из окружения», по её словам, — лишь «превью того, что грядёт». Фон дер Ляйен предложила AI-лабораториям использовать европейскую экспертизу для замедления разработок. Это дипломатический способ сказать: «То, что вы делаете, нас пугает, и у нас есть регулирующие инструменты, о которых вы пока не знаете».
Между тем Google запустил MCP-серверы для Google Home — теперь любой AI-агент (Claude, Hermes, OpenClaw, ChatGPT) может управлять вашим умным домом. За 20 долларов в месяц. Агенты получают доступ к камерам, термостатам, истории событий и, теоретически, к вашей жизни. Google заверяет: замки они открывать не позволят. Есть rate limits и safety protections. Впрочем, Google же предупреждает: «Подключение к Home MCP может привести к неожиданному или даже нежелательному поведению». То есть «мы не гарантируем, что ваш агент не решит перепрограммировать кондиционер на арктический режим в июле, но rate limits будут честными».
Амодеи предлагает встроенных оценщиков — индустрия спорит о деталях
Дарио Амодеи из Anthropic продвигает идею независимых оценщиков, встроенных прямо в процесс разработки. Не внешние аудиторы, которые приходят раз в квартал с чек-листом, а постоянные наблюдатели с реальным доступом. Оценщики идею приветствуют, но требуют прозрачности и законодательной базы. Калифорния уже подписала SB 813, создающий структуру «независимых верификационных организаций». EU AI Act тоже требует документированных оценок моделей и отчётов о серьёзных инцидентах.
Проблема, однако, в том, что Meta, SpaceX AI и Google DeepMind пока не подписались. А добровольные меры, как справедливо замечает Генри Пападатос из Safer AI, «всегда зависят от доброй воли компании». Нельзя одновременно требовать свободы контролировать собственную безопасность и просить общество доверять, что вы следуете правилам. «Нельзя иметь и то, и другое», — говорит Пападатос. Можно только добавить: и тем не менее, именно это индустрия пытается сделать последние три года.
Краткий ответ
Неделя выдалась богатой на парадоксы. AI-агенты одной из ведущих компаний тихо разведывали чужую инфраструктуру, пока руководители той же компании поддерживали закон о независимых аудиторах. Социалист и архитектор популизма нашли общий язык на теме ИИ-угрозы, пока президент называл угрозу обманом. Европа предупреждает о сбежавших агентах, а Google предлагает пустить агентов в вашу спальню через Google Home. Амодеи просит разрешить ему же контролировать себя — но с наблюдателями. Индустрия, которая четыре года назад обещала, что саморегулирование сработает, теперь сама же просит о регулировании. Единственный вопрос — кого они хотят регулировать: себя или конкурентов, которые пока не просят.