Как Microsoft научил нейросети объяснять, что происходит в мозге при восприятии языка
Исследователи Microsoft и ведущих университетов создали метод GCT, который превращает чёрные ящики нейросетей в понятные гипотезы о работе мозга. Система сначала выясняет, на что реагирует участок коры (например, «приготовление еды»), затем генерирует истории для проверки — и если в томографе нужная зона активируется, гипотеза подтверждена. Метод уже помог различить соседние отделы мозга, которые раньше считались одинаковыми.
Это прорыв в нейронауке: впервые чёрные ящики ИИ-моделей превращаются в научные теории, которые можно проверить экспериментом. Для AI-индустрии это показывает путь к объяснимым системам, где предсказание идёт рука об руку с пониманием механизмов.
От предсказаний к пониманию
За последнее десятилетие большие языковые модели (LLM) стали лучшим инструментом для предсказания реакции мозга на язык. Подайте модели тот же текст, что слышит человек в МРТ-сканере, и её внутренние представления точно предскажут активность участков коры. Но есть проблема: никто не может «прочитать» эти модели — миллионы непонятных параметров не переводятся в интерпретации.
Модель предсказывает активность, но не объясняет, на что именно реагирует зона: на еду, места, числа или что-то ещё. Этот разрыв между предсказанием и пониманием стал центральной проблемой вычислительной нейронауки.
Generative Causal Testing: от чёрного ящика к проверяемым гипотезам
В статье, принятой в Nature Neuroscience, команда Microsoft Research совместно с учёными из Беркли, UCSF и Колумбийского университета представила метод GCT (Generative Causal Testing). Он работает в два этапа:
Этап 1 — объяснение: Система находит фразы, которые сильнее всего активируют предсказательную модель для конкретного участка мозга. LLM суммирует их в короткое описание — например, «приготовление еды» или «названия мест».
Этап 2 — проверка: LLM пишет новые истории, специально сконструированные для активации целевой зоны согласно гипотезе. Если при прослушивании этих историй в томографе нужный участок действительно «загорается» сильнее базового уровня — объяснение подтверждено.
Реальные открытия
Метод не только подтвердил известные факты (например, зоны обработки мест действительно реагируют на тексты о локациях), но и решил старые споры. Три соседних региона мозга, связанных с обработкой мест (RSC, PPA, OPA), долго считались взаимозаменяемыми. GCT смог их различить, создав дифференциальные стимулы.
Более того, система обнаружила крошечные «микрорегионы» в префронтальной коре, настроенные на специфические концепты: диалоги, время на часах, измерения. Это уровень детализации, недостижимый традиционными методами.
Ключевые выводы
- GCT превращает непрозрачные нейросетевые предсказания в короткие проверяемые гипотезы о функциях мозга
- Метод подтверждает объяснения через каузальный тест: если сгенерированная история активирует целевую зону — гипотеза верна
- GCT различил соседние области обработки мест в мозге, которые раньше считались функционально одинаковыми
- Система обнаружила микрорегионы префронтальной коры, специализирующиеся на узких концептах (диалоги, время, измерения)
- Надёжность объяснений коррелирует с качеством базовой предсказательной модели — чем стабильнее модель, тем точнее гипотеза
Автор: Ксения Лаврова · Источник: microsoft.com
Это тот редкий случай, когда корпоративный пресс-релиз описывает действительно крутую науку. GCT решает фундаментальную проблему: нейросети отлично предсказывают реакции мозга, но превращаются в чёрные ящики. Microsoft с академическими партнёрами нашли способ извлечь из этих ящиков понятные гипотезы и тут же их проверить — подход, который давно нужен и в других областях AI.
Особенно впечатляет не валидация известного («да, зона мест реагирует на места»), а открытия: различение считавшихся идентичными областей и обнаружение микрорегионов под специфические концепты. Это уже не просто интерпретируемость ради галочки — это реальный научный инструмент. Статья в Nature Neuroscience (не где-нибудь!) подтверждает: серьёзная работа. Вопрос теперь, как быстро метод выйдет за пределы языковых задач.
Комментарии