AI уничтожил готовность говорить ‘я не знаю’ — уверенность выросла в 2.5 раза при падении правильности втрое

Представьте ситуацию: вам задают вопрос о цвете формы футбольной команды в фильме “Играй как Бекхэм”. Вы не помните. Раньше вы бы сказали “я не знаю” — и это был бы честный ответ. Но теперь у вас есть доступ к AI. Вы спрашиваете у него. Он отвечает — неправильно, конечно, потому что такие детали редко встречаются в текстовых данных. Но вы отвечаете на вопрос, потому что AI дал вам ответ. И вы уверены в нём на 75.9 баллов из 100. Вот только правильный ответ был другим. Правильность упала с 27.6% до 10%. Но кому это важно, когда ты так уверен?

Исследователи провели пять экспериментов с 3132 участниками, чтобы проверить, меняет ли доступ к языковой модели то, как люди обращаются с неопределённостью. Результат: доступ к AI почти уничтожил готовность говорить “я не знаю”. В контрольной группе без AI участники воздерживались от ответа на 36% и 44% вопросов. С доступом к AI эти цифры упали до 6% и 3%. Почти исчезли. Как вид на грани вымирания, только вместо белого носорога — человеческая честность перед лицом собственного невежества.

Больше ответов, меньше правильных

В первых двух исследованиях (1a и 1b) участники могли выбирать, спрашивать ли у AI. Без AI они воздерживались от суждения на 36% и 44% вопросов. С AI — на 6% и 3%. Разница колоссальная. Но вот что интересно: поскольку AI-советы были в основном неправильными (исследователи специально выбрали вопросы, на которые модель Step 3.5 Flash почти всегда ошибается), эффект нельзя объяснить как разумное делегирование надёжному инструменту.

Во втором исследовании измеряли уверенность участников. Без финансовых стимулов уверенность с доступом к AI достигла 75.9 баллов из 100 — против 29.6 без AI. Это примерно в 2.5 раза выше. Одновременно доля правильных ответов упала с 27.6% до 10.0%. Участники были гораздо увереннее, но ошибались гораздо чаще. Классический рецепт катастрофы: уверенность без компетенции.

По всем исследованиям участники без стимулов, имевшие доступ к AI, ответили правильно на 9.2% вопросов — против 27.5% без AI. Они ответили на больше вопросов с AI, но были правильны только примерно в треть случаев. Больше активности — меньше истины. Это не прогресс. Это эпистемическая инфляция.

Стимулы помогают, но не исправляют

Исследования 2-4 добавляли финансовые стимулы. Участники получали 10 центов за каждый правильный ответ, теряли 10 центов за каждый неправильный и получали ноль за “я не знаю”. Исследователи заранее зарегистрировали гипотезу, что стимулы увеличат готовность воздерживаться, но доступность AI ослабит этот эффект. Ни одно из трёх исследований не показало статистически значимого взаимодействия.

AI-доступ и финансовые стимулы работали в основном независимо. Стимулы приводили к тому, что участники реже искали совет AI: 4.53 против 5.27 из шести возможных запросов в исследовании 3, и отвечали правильнее чаще, когда AI был доступен. Приостановка суждения слегка выросла со стимулами, но оставалась значительно ниже контрольной группы без AI.

Стимулы работали, но были скромными, как признают исследователи. Будут ли более крупные или репутационные стимулы закрывать разрыв дальше — неизвестно. В исследовании 4 ответ AI показывался участникам автоматически, без необходимости спрашивать. Исследователи говорят, что это отражает растущую реальность, где поисковики показывают AI-сводки, а помощники пишут предложения без приглашения. Эффект почти не изменился. Без стимулов приостановка суждения упала с 35% без AI до 1% с автоматически показанными ответами AI. Со стимулами — с примерно 39% до 7%.

Люди могут доверять AI больше, чем другим людям

Исследователи интерпретируют результаты в контексте “эпистемии” — склонности принимать ответы AI, потому что они звучат убедительно, а не потому что их проверяют. Языковая модель всегда должна производить ответ. Она никогда не паузируется, даже когда не знает чего-то. Когда пользователи передают своё суждение такой системе, они могут перенять её отсутствие сдержанности, пишут авторы.

Эффект также противоречит тому, что показывали исследования “использования советов”. Люди обычно недооценивают внешние советы и сдвигаются только на треть пути к позиции советника. Участники этого исследования делали наоборот. Они даже делают вывод из своих данных, что доступ к AI превратил некоторые ответы, которые были бы правильными, в ошибки. В условиях без стимулов группа с AI ответила на больше вопросов, чем контрольная группа, но произвела меньше правильных ответов.

По мере того как ответы AI становятся вездесущими и всё чаще появляются без приглашения, готовность говорить “я не знаю” может стать одной из первых жертв взаимодействия человека с AI, пишет исследовательская команда. Сохранится ли человеческое суждение по мере распространения AI-систем, может зависеть не от того, чтобы сделать модели точнее, а от того, продолжают ли люди признавать и уважать границы собственного знания.

Что говорят исследования о том, как AI меняет человеческое мышление

Растущее число исследований показывает, что использование AI влияет на человеческое суждение и когнитивные навыки. Исследование Swiss Business School с 666 участниками показывает сильную отрицательную корреляцию между использованием AI и критическим мышлением. Чем больше люди доверяют AI, тем больше они делегируют когнитивные задачи, создавая цикл, который дальше ослабляет критическое мышление.

Экспериментальные данные показывают, что уже 10-15 минут работы с AI-ассистентом могут измеримо снизить способность решать проблемы и настойчивость в последующих задачах без AI. Участники, которые использовали AI только для объяснений или игнорировали его, не показали снижения.

Исследование Microsoft пришло к похожему выводу. В отдельной работе Microsoft показал, что использование AI предъявляет высокие требования к метакогниции — способности мониторить и направлять собственное мышление. Более высокое образование действует как защитный фактор. Но даже это не панацея.

Краткий ответ

Пять экспериментов с 3132 участниками показали: доступ к AI почти уничтожает готовность говорить “я не знаю” (с 36% до 6% и с 44% до 3%). Уверенность выросла в 2.5 раза при падении правильности ответов с 27.6% до 10%. Финансовые стимулы помогают умеренно, но не закрывают разрыв. Автоматически показанные ответы AI дают тот же эффект. Исследователи называют это “эпистемия” — принятие AI-ответов без проверки. Другие исследования подтверждают: использование AI снижает критическое мышление, способность решать проблемы и настойчивость. Готовность говорить “я не знаю” может стать одной из первых жертв взаимодействия человека с AI. Ирония в том, что AI, который сам не знает, когда остановиться, учит людей делать то же самое.