ainews
Почему в медицине нельзя заменить RAG длинным контекстом
Автор разбирает популярный тезис «RAG мёртв, долой векторные базы, длинный контекст решает всё» и показывает, почему он не работает в медицинских AI-системах. Клинические тексты полны семантически похожих, но критически разных данных (симптомы, диагнозы), а регуляторные требования (HIPAA, контроль доступа на уровне пациентов) делают «просто засунуть всё в промпт» юридически невозможным.
Обязательно для команд, строящих AI в регулируемых отраслях (медицина, финансы, юриспруденция). Показывает, где маркетинг «бесконечного контекста» упирается в реальность данных и комплаенса. Полезно архитекторам RAG-систем как аргументация технических решений перед стейкхолдерами.
Это аннотация к авторской статье. Мы не публикуем и не пересказываем чужие тексты целиком — полная версия у автора.
О чём статья
- Длинный контекст деградирует нелинейно: семантически близкие, но неверные данные («дистракторы») резко снижают точность — именно это описывает медицинские записи
- «Эффективный контекст» моделей (200–400K токенов) в разы меньше рекламируемого (1–2M), особенно для задач с множественным поиском фактов
- В медицине контроль доступа, аудит и соблюдение HIPAA требуют точечной выборки данных на уровне пациента — этого нельзя сделать, просто загрузив всю базу в промпт
- Domain-специфичные эмбеддинги (BioBERT) кодируют клиническую семантику, которую общие модели в длинном контексте не различают
Комментарии