ainews
Почему роботу недостаточно учиться: спор о том, может ли ИИ понимать мир без уязвимого тела
Когнитивист Джулиан Киверстейн утверждает, что аргумент Дрейфуса всё ещё актуален: человеческое понимание формируется через телесный опыт выживания и социального взаимодействия, а языковые модели только имитируют паттерны, не обладая подлинной связью с миром. Вопрос в том, может ли сенсомоторная интеграция и годы обучения в реальных условиях дать роботу настоящее понимание, или критически важна уязвимость и необходимость самосохранения.
Определяет, где текущие ИИ-системы упрутся в потолок и где откроется следующая волна инноваций — в роботехнике с воплощённым обучением или в улучшенных архитектурах языковых моделей.
Что произошло
Автор поднимает классический философский вопрос: может ли ИИ понимать мир так же, как человек, если у него нет уязвимого тела и опыта выживания? Философ Хьюберт Дрейфус утверждал, что человеческий интеллект опирается на навыки, усвоенные телесно и социально — велосипедист реагирует на баланс и дорогу раньше, чем успевает сформулировать правило.
Современные большие языковые модели усложняют спор: они демонстрируют гибкость, обучаясь на записях действий воплощённых людей. Но передают ли эти записи настоящее понимание или лишь структуру для имитации?
Когнитивист Джулиан Киверстейн в недавнем подкасте утверждает: возражение Дрейфуса по-прежнему верно. Человеческое понимание развивается через взаимодействие с окружающей средой, которая важна для выживания и социальной жизни организма. Даже абстрактное мышление остаётся связанным с этими практиками. Языковая модель учится на паттернах текстов, но не обладает той же связью с миром, о котором эти паттерны говорят.
Вопрос остаётся открытым: достаточно ли сенсомоторной интеграции и мультимодального обучения, или системе также нужна способность к самосохранению? Если робот будет учиться годами в незнакомых ситуациях, какой тест докажет, что у него нет понимания?
Автор: Никита Громов · Источник: reddit.com
Разработчикам. Ставит под вопрос, достаточно ли мультимодальных моделей и роботики для настоящего понимания, или нужны механизмы самосохранения и долгосрочного обучения в реальной среде. Подсказывает направление для архитектур с эмбодимент-компонентами.
Бизнесу. Указывает на фундаментальное ограничение текущих ИИ-продуктов: они могут имитировать понимание, но не обладают им в полном смысле. Критично для применений, где важна адаптация в новых непредсказуемых условиях — автономные системы, робототехника, сложная диагностика.
Инвесторам. Философский спор с практическим выходом: если Киверстейн прав, текущая волна ИИ упрётся в потолок в задачах, требующих глубокого понимания контекста. Возможности в роботехнике с долгосрочным обучением и системах самосохранения, но риск переоценки возможностей LLM в сложных средах.
- Разработка роботов с долгосрочным обучением в реальных условиях — не только сенсоры, но и механизмы самосохранения и адаптации
- Создание архитектур ИИ с интеграцией телесного опыта — симуляторы с обратной связью, критичной для выживания виртуального агента
- Консалтинг для компаний: аудит применений ИИ на предмет реального понимания vs имитации — где текущие LLM достаточны, где нужны воплощённые системы
- Образовательные продукты, объясняющие границы ИИ через философию познания — курсы для разработчиков и менеджеров
- Переоценка возможностей LLM в задачах, где критично настоящее понимание контекста и адаптация — автономные системы могут оказаться хрупкими
- Философский спор может остаться неразрешимым без чётких критериев для тестирования понимания — риск бесконечных дебатов без практического выхода
- Требование уязвимости и самосохранения может оказаться избыточным — возможно, достаточно долгосрочного обучения в сложных средах без биологической мотивации
Это один из тех споров, которые звучат как философская возня, но на самом деле определяют, куда пойдут следующие миллиарды в ИИ. Если Киверстейн прав, текущие языковые модели упрутся в потолок там, где нужна настоящая адаптация — в автономных системах, сложной диагностике, роботехнике. Паттерны из текстов дадут имитацию, но не понимание.
Но вот что интересно: даже если аргумент верен, непонятно, как его проверить. Какой тест докажет, что робот, учившийся годами в реальных условиях, всё ещё не понимает? Может, достаточно долгосрочного обучения в сложной среде, и уязвимость тут ни при чём. Пока спор не решён, ставить стоит на оба направления — и на улучшение LLM, и на роботов с воплощённым обучением. Но точно не стоит переоценивать, что умеют делать текущие модели в непредсказуемых условиях.
Комментарии