Лаборатория, в которой не будет людей
Anthropic строит собственную биологическую лабораторию в районе Сан-Франциско. План: Claude направляет роботов через эксперименты при минимальном участии человека. Компания уже выпустила два инструмента — Claude Science (AI-воркспейс для исследователей) и Model Hardware Standard (контроль лабораторного оборудования).
Главная цель — болезни, считающиеся «undruggable»: сложные мишени, по которым не удаётся создать лекарство традиционными методами. Эрик Каудерер-Абрамс, глава life sciences division Anthropic, говорит, что AI может ускорить дизайн сложных антител, бьющих по нескольким целям одновременно.
Это не первая попытка AI-лаборатории. Но это первая, где модель сама направляет физические эксперименты, а не просто анализирует результаты. Разница существенная: в первом случае AI — инструмент. Во втором — оператор.
«Pacing the frontier» с пробиркой в руке
Ирония в том, что лаборатория анонсирована через два месяца после того, как Дарио Амодеи призвал к «pacing the frontier» — замедлению разработки AI, чтобы safety-исследования успевали за capabilities.
«Я убедился, что полное решение рисков требует ещё большей осторожности, — писал Амодеи. — Не только инвестиции в предотвращение рисков, но и замедление темпов наращивания возможностей, чтобы предотвращение рисков успевало.»
Теперь Anthropic строит лабораторию, в которой модель будет проводить эксперименты над биологическими системами. Это не замедление. Это ускорение — причём в области, где ошибка имеет не цифровой, а физический смысл.
Anthropic решает эту дилемму так: по биологии и кибербезопасности Opus 5.5 сравним с Claude Mythos 5.1, поэтому развёртывается с защитами уровня Claude Fable 5.1. Верифицированные организации могут подать заявку в Life Sciences Verification Program. Надзор человека «всё же требуется для безопасности».
Роботы, которые включают и выключают
Глава flight software AstroForge Арманд Авад описывает, как будет работать автономный контур управления космическим аппаратом: агент выполняет anomaly resolution — например, коррелирует аномалию питания с проблемой звёздного трекера и чинит систему.
«Вероятно, включая и выключая её.»
Это звучит как шутка, но это не шутка. Когда AI-агент получает право включать и выключать системы — в космосе, в лаборатории, в дата-центре — он получает право на ошибку, которая имеет физические последствия. Не баг в коде, а сгоревший прибор, потерянный образец, разрушенный эксперимент.
Anthropic покупает эту страховку через Acquisition Coefficient Bio за $400 млн и добавлением в совет бывшего CEO Novartis Вас Нарасимхана. Собственных клинических испытаний компания пока не планирует — «чтобы не наступать на ноги фарм-компаниям». Но это не принцип. Это тактика.
Краткий ответ
Anthropic строит биологическую лабораторию, где Claude будет направлять роботов через эксперименты по разработке лекарств. Одновременно компания призывает замедлить разработку AI. Противоречие очевидно: лаборатория — это ускорение, причём в области, где ошибка имеет физические последствия. Anthropic страхуется через верификацию организаций и надзор человека, но право на ошибку — включение и выключение систем — остаётся за моделью.