ainews
ИИ делает людей в 3 раза глупее, но в 2 раза увереннее — исследование
Эксперимент европейских учёных показал: доступ к ИИ-советам снизил готовность людей признавать незнание с 44% до 3%, точность ответов упала с 27% до 9%, а уверенность в своей правоте выросла с 30% до 76%. Люди доверяли неправильным ответам ИИ, даже когда сами знали лучше.
Это не абстрактная проблема — каждый, кто использует ChatGPT, Copilot или ИИ-поиск Google, рискует незаметно для себя утратить способность критически оценивать информацию. Особенно опасно для детей и студентов, которые формируют познавательные привычки прямо сейчас.
Эффект когнитивной капитуляции
Исследователи из трёх европейских университетов провели эксперимент, результаты которого выглядят тревожно. Участникам давали вопросы, на которых ИИ-модели обычно ошибаются — например, про визуальные детали из фильмов вроде цвета формы команды в «Играй как Бекхэм».
Когда у людей появился доступ к ИИ-советнику (использовали Step 3.5 Flash, намеренно слабую модель), произошло три вещи:
- Готовность сказать «не знаю» обрушилась с 44% до 3%
- Точность ответов упала с 27% до 9%
- Уверенность в правоте взлетела с 30% до 76%
«Люди стали намного хуже отвечать — точность составила лишь треть, — но при этом они были вдвое увереннее», — комментирует Валерио Капраро из Миланского университета Бикокка.
Деньги не помогли
Даже денежные стимулы почти не исправили ситуацию. Готовность признать незнание поднялась лишь до 8% (против 44% без ИИ), точность — до 16% (против 27%).
Исследователи из Wharton ранее ввели термин «когнитивная капитуляция» для того же явления: люди принимали неправильные ответы ИИ в 80% случаев, оставаясь при этом увереннее тех, кто работал без нейросетей.
Проблема дизайна
Особенно тревожит исследователей влияние на детей. Google недавно переделал поиск, заменив ссылки на уверенные ИИ-саммари. Организация Common Sense Media назвала этот дизайн «неприемлемым риском» для учащихся.
Паттерн очевиден: ИИ-продукты спроектированы отвечать всегда, никогда не говорить «не знаю». Люди, использующие их, учатся делать то же самое — отказываясь от критически важного навыка признавать границы своего знания.
Ключевые выводы
- Доступ к ИИ подавляет способность признавать незнание — ключевой навык критического мышления
- Уверенность растёт обратно пропорционально точности: люди становятся хуже, но чувствуют себя лучше
- Денежные стимулы слабо мотивируют людей игнорировать ИИ-советы, даже когда те объективно вредны
- Дизайн ИИ-продуктов (всегда отвечать, никогда не сомневаться) формирует такое же поведение у пользователей
- Особый риск для детей, растущих с этими инструментами до формирования критического мышления
Автор: Ксения Лаврова · Источник: hnrss.org
Самое жуткое в этом исследовании — не то, что ИИ ошибается. А то, что он убивает в людях навык говорить «не знаю». Это фундаментальная вещь: признание границ своего знания — основа любого обучения и критического мышления. Без него ты просто попугай, уверенно повторяющий чужую чушь.
И вот тут начинается системная проблема. Google заменяет ссылки на самоуверенные саммари. ChatGPT никогда не скажет «я не уверен» без явного промпта. Весь UX ИИ-продуктов построен на иллюзии всезнания. Мы буквально тренируем поколение детей отказываться от сомнений. Когда Common Sense Media называет это «неприемлемым риском» для школьников — они не драматизируют. Это реальная угроза тому, как формируется мышление.
Инструменты из статьи
Универсальный AI-ассистент OpenAI: тексты, код, анализ, изображения, голос.
Доступ из РФ →
Комментарии