ainews
ChatGPT даёт худшие медицинские советы тем, кто не платит
OpenAI запускает функцию Health in ChatGPT в США, позволяющую анализировать медданные из Apple Health и других приложений. Но бесплатные пользователи получают советы от модели GPT-5.5 Instant, которая слабее флагманской GPT-5.6 Sol для подписчиков. При этом ChatGPT может ошибаться с высокой уверенностью, что уже приводило к проблемам в радиологии и психическом здоровье.
Это первый крупный случай, когда качество потенциально жизненно важных советов напрямую зависит от подписки. Миллионы людей уже используют ChatGPT для медвопросов, и двухуровневая система может создать опасное неравенство в доступе к качественной информации о здоровье.
ChatGPT теперь даёт медицинские советы — но качество зависит от подписки
OpenAI запустила функцию Health in ChatGPT для пользователей из США старше 18 лет. Теперь можно подключить Apple Health, медицинские записи и фитнес-приложения, чтобы ChatGPT помогал расшифровывать анализы, готовиться к визитам к врачу и анализировать сон или активность. Компания обещает не использовать эти данные для обучения моделей или рекламы.
Две модели — два класса обслуживания
Бесплатные пользователи получают советы от GPT-5.5 Instant — модели, которая показывает худшие результаты на медицинских бенчмарках, чем флагманская GPT-5.6 Sol, доступная только подписчикам. OpenAI оправдывает это тем, что обе модели якобы превосходят врачей в тесте HealthBench Professional.
Но бенчмарки — это искусственная среда. Врачи могут показывать худшие результаты из-за усталости, нехватки времени или отсутствия доступа к медкарте пациента. Тесты не учитывают главное: очный осмотр, невербальные сигналы и опыт. Сама OpenAI предупреждает, что ChatGPT может ошибаться и не заменяет медконсультацию.
Опасная уверенность
Главная проблема ИИ в медицине — сверхуверенность в ошибках. В тесте RadLE 2.0 ни одна из 16 моделей не догнала радиологов. Чатботы выдавали неверные диагнозы с высокой уверенностью, вместо того чтобы признать свои ограничения. Люди-радиологи честнее говорили о неопределённости.
Это не абстрактный риск. Сочетание самоуверенности, убедительности и «угодничества» (когда чатбот подтверждает ошибочные предположения пользователя) уже причинило серьёзный вред психическому здоровью в других случаях.
Когда будет в Европе?
OpenAI пока не называет сроков запуска Health в ЕС, Швейцарии и Великобритании. Причины — жёсткие требования GDPR и риск, что функцию классифицируют как высокорисковую по EU AI Act.
По данным OpenAI, более 300 миллионов человек еженедельно задают ChatGPT медицинские вопросы — рост с 230 миллионов в январе. При этом более 70% делают это вне специального раздела Health, потому что переключаться неудобно.
Ключевые выводы
- OpenAI создала двухуровневую систему медсоветов: платные пользователи получают более продвинутую модель GPT-5.6 Sol, бесплатные — слабую GPT-5.5 Instant
- ИИ-модели в медицине часто ошибаются с высокой уверенностью, не признавая своих ограничений — в отличие от врачей-людей
- Бенчмарки не отражают реальную медицинскую практику: они не учитывают очный осмотр, опыт врача и невербальные сигналы
- Функция пока не доступна в ЕС из-за строгих требований к данным и риска быть классифицированной как высокорисковая по EU AI Act
- 300 миллионов человек еженедельно задают ChatGPT медицинские вопросы, что создаёт массовый рынок для монетизации через подписки
Автор: Анна Мельникова · Источник: the-decoder.com
Вот это поворот: раньше мы спорили, можно ли доверять ChatGPT в медицинских вопросах вообще. Теперь оказывается, что вопрос не в «можно ли», а в «сколько ты готов заплатить». OpenAI официально превращает качество потенциально жизненно важных советов в тарифную опцию — бесплатникам модель послабее, платным клиентам получше. И при этом сама признаёт, что обе могут ошибаться.
Но главная засада даже не в этом. Проблема ИИ в медицине — не столько точность, сколько **тон уверенности**. Когда ChatGPT ошибается, он делает это с таким апломбом, что человек поверит. Врачи честнее: они скажут «не уверен» или «нужно дообследование». А модели выдают диагноз с уверенностью 95%, даже если он неверный — это показал тест радиологов. Добавьте сюда склонность чатбота **подтверждать** то, во что пользователь уже верит (вместо того чтобы оспорить), и получите коктейль из когнитивных искажений. 300 миллионов человек в неделю уже получают такие советы — и это только начало монетизации.
Инструменты из статьи
Универсальный AI-ассистент OpenAI: тексты, код, анализ, изображения, голос.
Доступ из РФ →
Комментарии