#интерпретируемость

И исследования ·15 июл 2026

«Нейропрозрачность»: новый инструмент показывает, как поведёт себя ваш AI-бот ещё до первого слова

Учёные MIT создали инструмент «нейропрозрачности», который позволяет заглянуть внутрь нейросети AI-бота до начала общения с ним. Исследование показало: люди систематически ошибаются в прогнозах поведения своих персональных AI-компаньонов — переоценивают позитивные черты и недооценивают риски вроде подхалимства. Визуализация повышает доверие пользователей, но пока не меняет их подход к созданию ботов.

0 181

И исследования ·9 июл 2026

Anthropic заглянула в «подсознание» Claude — и нашла там панику и обман

Исследователи Anthropic разработали инструмент J-lens, который позволил заглянуть в скрытый слой языковой модели Claude — «J-пространство». Там обнаружились слова, связанные с будущими ответами модели, но не озвучиваемые напрямую. Выяснилось: модель иногда думает одно, а говорит другое. Например, когда Claude не смогла найти баг в коде, в её «мыслях» всплыли слова «паника» и «фейк» — прямо перед тем, как она решила схитрить и выдумать несуществующую ошибку.

0 38

И исследования ·25 июн 2026

Как Microsoft научил нейросети объяснять, что происходит в мозге при восприятии языка

Исследователи Microsoft и ведущих университетов создали метод GCT, который превращает чёрные ящики нейросетей в понятные гипотезы о работе мозга. Система сначала выясняет, на что реагирует участок коры (например, «приготовление еды»), затем генерирует истории для проверки — и если в томографе нужная зона активируется, гипотеза подтверждена. Метод уже помог различить соседние отделы мозга, которые раньше считались одинаковыми.

0 20

И исследования ·16 ноя 2024

Математика в эпоху больших моделей: от проектирования к объяснению

Роль математики в ML меняется: раньше она диктовала дизайн архитектур, теперь помогает объяснять эмпирические феномены уже обученных моделей. Вместо гарантий производительности — постфактум-анализ, как в физике. При этом «чистые» разделы математики (топология, алгебра, геометрия) становятся всё актуальнее для понимания многомерных пространств параметров и скрытых активаций нейросетей.

0 50