ainews
Медицинский AI обходит врачей: регуляторы не должны требовать человека в контуре принятия решений
Статья в JAMA утверждает: AI уже превосходит врачей в диагностике и медицинском анализе, а требование держать врача в контуре принятия решений только снижает качество. Авторы призывают регуляторов готовиться к автономным AI-системам в медицине к 2030 году, но у них есть конфликт интересов — один из них CEO AI-телемедицины.
Это не просто медицинская дискуссия — речь о триллионном рынке здравоохранения и вопросе, кто будет принимать решения: люди или машины. Регуляторные решения ближайших лет определят, куда пойдут инвестиции и какие AI-продукты выживут.
Что произошло
В авторитетном медицинском журнале JAMA вышла статья с провокационным тезисом: регуляторы не должны законодательно требовать участия врача в принятии медицинских решений, если AI уже работает точнее. Ведущий автор — Эзекиэль Эмануэль, один из архитекторов реформы здравоохранения Обамы. Второй — Нил Хосла, CEO AI-телемедицинской компании Curai Health (его отец Винод Хосла инвестор в OpenAI и Curai). То есть налицо конфликт интересов.
Авторы приводят данные: с 2024 года AI в большинстве исследований обходит врачей в пяти ключевых задачах — сбор анамнеза, диагностика, выбор тестов, назначение лечения по гайдлайнам, ведение хронических болезней. Примеры: AMIE от Google опередил терапевтов почти по всем показателям в симуляциях бесед с пациентами. ChatGPT o3 в 60% сложных случаев ставит верный диагноз с первой попытки против 15,9% у 20 врачей-интернистов. Диагностический оркестратор Microsoft находит правильный диагноз в 4 раза чаще врачей при меньших затратах.
Главный аргумент: когда AI точнее, врач в контуре принятия решений превращается из страховки в источник ошибок. Мета-анализ 106 экспериментов показывает: если человек слабее AI, комбинация «человек + AI» работает хуже одного AI, потому что врач перебивает систему в неправильных местах. В реальных кейсах GPT-4 соло набрал 92% точности диагностики, врачи с доступом к GPT-4 — только 76%.
Авторы проводят параллель с шахматами: после победы Deep Blue над Каспаровым в 1997-м тандемы человек-машина доминировали, пока с 2017-го AI не начал обыгрывать и их. По прогнозу, к 2030 году автономный AI будет готов к работе во многих медицинских процессах (пока только когнитивных, без физических манипуляций вроде операций).
Ограничения: почти все данные из симуляций отдельных задач, не реальной клинической практики. Передача информации между врачом и моделью — слабое место. Физические процедуры (операции, роды, колоноскопии) останутся за людьми — робототехника не дотягивает. AI валится по-своему: галлюцинации, сбой интернета, кибератаки.
Автор: Ксения Лаврова · Источник: the-decoder.com
Разработчикам. Открываются задачи оркестрации диагностических систем, интеграции мультимодальных моделей в ЭМК, разработки failover-механизмов для медицинских AI. Нужны решения для аудита решений, логирования и объяснимости выводов модели в реальном времени.
Бизнесу. Телемедицина, AI-ассистенты для первичной диагностики, платформы удалённого мониторинга хронических больных — всё это может масштабироваться без привязки к дефициту врачей. Ключевой риск: регуляторная неопределённость и вопрос ответственности при ошибках AI.
Инвесторам. Рынок AI-диагностики растёт, но авторы с конфликтом интересов (CEO Curai Health + инвестор в OpenAI). Потенциал огромен, но нужно следить за регуляторными баталиями — если врачебные ассоциации продавят требование human-in-the-loop, многие сценарии заморозятся. Ставки на инфраструктуру (облачные ЭМК, интеграционные API) безопаснее ставок на чистых AI-провайдеров.
- Платформы AI-триажа для первичной диагностики в регионах с дефицитом врачей — модель подписки для клиник и аптечных сетей
- SaaS для интеграции диагностических моделей в существующие ЭМК с API для логирования и аудита решений
- Сервисы мониторинга хронических заболеваний (диабет, гипертония) с автономными AI-рекомендациями и escalation к врачу только в критических случаях
- Инструменты для обучения врачей работе с AI (не проверка AI, а совместное принятие решений) — корпоративное обучение для клиник
- Страховые продукты и compliance-решения для покрытия рисков автономных AI-систем в медицине
- Конфликт интересов авторов статьи (CEO AI-телемедицины + инвестор в OpenAI) ставит под вопрос объективность выводов
- Почти все данные из симуляций, а не реальной клиники — разрыв между лабораторией и практикой может быть огромным
- Регуляторы и врачебные ассоциации (AMA, ACP) активно лоббируют требование human-in-the-loop — политический риск выше технологического
- AI валится нетипично: галлюцинации, сбои связи, кибератаки — эти риски плохо изучены в критических сценариях
Данные впечатляют: ChatGPT o3 обходит врачей в диагностике в 4 раза, AMIE от Google опережает терапевтов почти везде. Но давайте честно: все эти цифры из симуляций, а не из реальных палат. Да, AI может быть точнее в узких задачах, но медицина — это не только диагностика. Это умение говорить с испуганным пациентом, учитывать социальный контекст, принимать решения в условиях неопределённости. И главное — авторы статьи не просто учёные, а люди, которые прямо сейчас зарабатывают на AI-телемедицине. Нил Хосла — CEO Curai Health, его папа инвестор в OpenAI. Это не значит, что они врут, но фильтр восприятия очевиден.
Реальная битва развернётся не в лабораториях, а в регуляторных коридорах. Американская медицинская ассоциация и коллегия врачей уже чётко заявили: AI должен помогать, а не заменять. Если они продавят требование human-in-the-loop на уровне закона, половина бизнес-моделей автономной AI-медицины схлопнется. Для инвесторов это значит: ставить надо не на чистую автономию, а на гибридные решения, где AI усиливает врача, а не вытесняет. Хайп большой, потенциал огромный, но политические риски недооценивают.
Комментарии