ainews
ChatGPT разучился отвечать на простые вопросы — наклонена ли стена?
Пользователь заметил, что ChatGPT пропускает базовую проверку реальности перед анализом. На вопрос «наклонена ли стена?» модель вместо прямого ответа запускается в лекцию о строительных нормах и материалах, так и не проверив сам факт наклона. Проблема может быть глубже обычной «боязни определённости» — модель утратила шаг здравого смысла в цепочке рассуждений.
Это указывает на фундаментальный разрыв между человеческим и машинным рассуждением: модели научились сложному анализу, но утратили базовую способность к здравому смыслу. Для практического применения AI это критично — пользователям нужны прямые ответы на простые вопросы, а не лекции по теме.
Пропущенный шаг здравого смысла
Пользователь Reddit обратил внимание на любопытную особенность ChatGPT: модель систематически пропускает базовую проверку реальности перед началом анализа. Проблема иллюстрируется простым примером: на вопрос «наклонена ли эта стена?» нормальный человек сначала смотрит на стену, оценивает угол и даёт прямой ответ — да или нет. Только потом обсуждаются возможные причины.
ChatGPT действует иначе. Он немедленно погружается в абстрактные рамки: строительные стандарты, свойства материалов, основы инженерии — так и не ответив на исходный вопрос о самом факте наклона.
Сложность вместо ясности
Автор наблюдения предлагает схему человеческого рассуждения: наблюдение → проверка здравым смыслом → оценка доказательств → анализ. У GPT порядок другой: наблюдение → абстрактная рамка → оговорки → анализ → (слишком поздно или вообще никогда) базовая проверка реальности.
Ранее пользователи замечали «боязнь определённости» у ChatGPT — бесконечные оговорки перед финальным ответом. Теперь становится ясно, что это может быть лишь поверхностным симптомом более глубокой проблемы: модель утратила начальный шаг проверки здравым смыслом.
Цена сложности
Софистицированное объяснение, построенное на непроверенной предпосылке, оказывается менее полезным, чем простая проверка реальности. Автор задаётся вопросом: это побочный эффект RLHF (обучения с подкреплением от человека), компромисс в архитектуре рассуждений или что-то ещё?
Вопрос остаётся открытым, но паттерн налицо: в погоне за глубиной анализа модели теряют способность к элементарной проверке очевидного — той самой отправной точки, с которой начинается любое осмысленное рассуждение.
Ключевые выводы
- ChatGPT систематически пропускает базовую проверку реальности перед началом анализа, сразу погружаясь в абстрактные рамки
- «Боязнь определённости» может быть поверхностным симптомом более глубокой проблемы — утраты шага проверки здравым смыслом
- Сложное объяснение на непроверенной предпосылке оказывается менее полезным, чем простая проверка факта
- Проблема может быть связана с RLHF или архитектурными компромиссами в цепочке рассуждений
Автор: Ксения Лаврова · Источник: reddit.com
Наблюдение точное и неприятное. Мы все чувствовали эту фрустрацию: задаёшь конкретный вопрос — получаешь развёрнутое ни о чём. Модель явно переобучена на "продуманность" и "взвешенность", но при этом потеряла главное — способность сначала ответить на вопрос, а потом уже рассуждать.
Скорее всего, это действительно побочка RLHF. Людей-оценщиков учили награждать "глубокие" ответы с оговорками, а не прямые и честные. Результат — модель ведёт себя как перестраховщик-эксперт, который боится сказать что-то определённое. Для чат-бота это фатально: люди хотят ясности, а не дипломатии. Проблема в том, что её сложно починить без пересмотра всей логики обучения — а это дорого и долго.
Инструменты из статьи
Универсальный AI-ассистент OpenAI: тексты, код, анализ, изображения, голос.
Доступ из РФ →
Комментарии