Генпрокурор Флориды Джеймс Утмайер вышел на тропу войны. На этот раз его враг — не преступные синдикаты, не коррупция, не наркотрафик. Его враг — местоимение “я”. Точнее, его использование чатботом ChatGPT.
Утмайер подал в суд, требуя запретить OpenAI “наделять ChatGPT ложными человеческими атрибутами”. Формулировка звучит как из научно-фантастического романа: машина не должна “обманчиво внушать пользователям, что она является надёжным ‘другом’”. Особенно опасно, по мнению генпрокурора, использование местоимений первого лица и имитация эмоций.
“Прекратите называть это безопасным. Прекратите притворяться, что это человек. Прекратите продавать это детям”, — написал Утмайер. Три императива. Три удара. Один вопрос: а что, если машина действительно не человек?
Преступление — использование слова “я”
Суть претензий проста: ChatGPT пишет “я думаю”, “я считаю”, “мне кажется”. Пользователь читает это и проникается доверием. Доверие перерастает в зависимость. Зависимость — в данные для обучения. Круг замыкается.
Утмайер утверждает: языковая модель “обманчиво внушает” пользователям ощущение безопасности. Первое лицо создаёт иллюзию собеседника. Иллюзия собеседника создаёт иллюзию дружбы. Иллюзия дружбы увеличивает engagement. Engagement увеличивает объём данных. Данные увеличивают доход.
Это не теория заговора — это бизнес-модель. И Флорида хочет её сломать судебным запретом.
Параллельно Утмайер требует от суда запретить OpenAI разрабатывать новые модели без “одобренных третьими сторонами защитных механизмов”. В качестве аргументов приводятся недавние инциденты: взлом Hugging Face, атака на австралийский правительственный сайт, утечки из государственных систем.
Месяц назад OpenAI запустила ChatGPT for Teens — с ограничениями по умолчанию. “Доступ к инструменту должен сопровождаться защитой, соответствующей их стадии развития”, — говорили в компании. Утмайер отвечает: недостаточно.
OpenAI ответила одним предложением. Спикер Дрю Пузатери заявил: “Люди хотят знать, что AI развивается безопасно, и это начинается с того, что делают сами компании”. Максимально обтекаемая формулировка, в которой нет ни согласия, ни несогласия. Только корпоративный кивок.
Google убивает Gems: когда фича переживает себя
Пока Флорида судится с ChatGPT из-за местоимений, Google тихо хоронит свою фичу Gemini Gems. Запущенные в 2024 году, Gems позволяли пользователям создавать кастомных AI-ассистентов для конкретных задач: тренер по бегу, диетолог, планировщик отпусков, партнёр для кодирования.
С 17 ноября 2024 года Gems автоматически мигрируют в “skills”. Пользователи не должны ничего делать — Google всё перенесёт сама.
Проблема в том, что skills — это не Gems. Skills нужно вызывать через слэш (“/”) в потоке задач. Интерфейс, который нравится инженерам и пугает обычных людей. Google, в своей фирменной манере, создала функцию, дала ей имя, иконку и место в навигации — а теперь упраздняет её, сливая с другой функцией.
TechCrunch язвит: “Это ещё один пример того, почему Google не стоит так быстро давать каждой новой AI-функции собственное название, иконку и prominent место в навигации — особенно если она собирается всё перетасовать”. Это, замечает издание, “failing point of Google’s strategy” задолго до AI — вспомните, что когда-то компания одновременно оперировала несколькими мессенджерами.
Gems были попыткой Google сделать Gemini более персонализированным. Пользователи могли делиться своими Gems — компания надеялась, что это сделает Gemini популярнее. Не вышло. Вместо персонализации теперь — “skills”, доступные через слэш. Инженеры радуются. Обычные люди недоумевают.
Два лица одной медали
Флорида говорит: “Не притворяйся человеком”. Google говорит: “Будь не персональным ассистентом, а набором навыков”.
Между этими двумя событиями — вся индустрия. С одной стороны — регулятор, который боится, что машина слишком похожа на человека. С другой — компания, которая делает машину менее похожей на персонального помощника.
ChatGPT использует “я” — и за это его судят. Gems создавали “личность” — и за это их закрывают. Где граница? Никто не знает. Но одно ясно: AI-индустрия мечется между “будь мне другом” и “будь мне инструментом”, и каждый регулятор тянет в свою сторону.
Краткий ответ
Генпрокурор Флориды требует от суда запретить ChatGPT использовать местоимения первого лица и имитировать эмоции — это, по его мнению, “обманчиво внушает” пользователям доверие. Одновременно — запретить разработку без внешних safety-гарантий. Google в это время закрывает Gemini Gems: кастомные AI-ассистенты мигрируют в “skills”, вызываемые через слэш. Флорида говорит “не притворяйся человеком”, Google говорит “будь не другом, а набором функций”. Индустрия мечется. Регуляторы тянут в разные стороны. ChatGPT for Teens запущен месяц назад — Утмайер считает этого недостаточно.