#explainable AI

И исследования ·6 авг 2026

Почему AI-ассистенты в медицине должны подстраиваться под уровень пользователя

Исследователи MIT показали, что одни и те же инструменты объяснимого AI в медицине работают по-разному для новичков и врачей. Пациенты без медобразования слепо доверяют текстовым объяснениям от LLM (даже когда модель ошибается), а врачи первичного звена показывают лучшие результаты вообще без объяснений — только предсказание модели. Вывод: универсального интерфейса нет, дизайн должен учитывать экспертизу пользователя.

0 122

И исследования ·4 авг 2026

AI-ассистент для диагностики: новички слепо доверяют, врачи игнорируют — исследование MIT показало, кому он вреден

MIT выяснил: AI-помощники в диагностике кожных болезней повышают точность у новичков, но за счёт слепого доверия — особенно объяснениям больших языковых моделей. Врачи же работают лучше без пояснений вообще, просто с предсказанием модели. Проблема: самые неопытные пользователи, которым AI нужнее всего, чаще всего попадают в ловушку ошибок.

0 29