ainews
Разработчик обучил трансформер предсказывать уровень сахара в крови на 2 часа вперёд
Энтузиаст создал encoder-only трансформер на основе BERT, который прогнозирует уровень глюкозы у диабетиков на 2 часа вперёд, используя историю сахара, углеводов и инсулина. Модель обучалась на симуляторах и реальных датасетах (OhioT1DM, AZT1D, ShanghaiT1DM), крупнейшая версия — 17 млн параметров. Код и веса выложены под MIT-лицензией, есть версия для смартфона, работающая на личных данных автора.
Показывает, как AI уже сейчас может помогать в управлении хроническими заболеваниями на уровне персонального девайса. Открытый код снижает порог входа для разработчиков в healthcare AI.
Разработчик с диабетом 1-го типа обучил трансформер (архитектура BERT — bidirectional encoder) предсказывать уровень глюкозы на следующие 2 часа. На вход модель получает историю (8–24 часа) по глюкозе, углеводам и инсулину, плюс планируемые приёмы пищи и инъекции. Предсказывает не только медианный прогноз, но и доверительные интервалы (uncertainty bands).
Как обучал: - Четыре размера моделей (nano → large, до 17 млн параметров, 16 слоёв, 16 голов внимания) - Три варианта: только на симуляторе, дообучение на OhioT1DM, дообучение на трёх датасетах (Ohio, AZT1D, Shanghai) - DILATE loss для медианы, pinball loss для неопределённости, смешивание через Kendall-Gal - Претрейн крупнейшей модели ~48 часов, файнтюн <10 минут - Есть версия на личных данных, работает на смартфоне
Что умеет: - Автореггресивный режим (прогноз >2 часов) - Предсказывает время, не потребляя его как фичу - Использует Kovatchev risk space (клиническая метрика диабета), репараметризованный в диапазон [40, 400] мг/дл
Исходники, веса и данные оценки выложены на GitHub под MIT-лицензией. Автор работал над проектом с марта, признаёт ограничения: модель требует заявленные углеводы и инсулин — хорошо бы научить работать и без них.
Автор: Павел Заславский · Источник: reddit.com
Разработчикам. Рабочий пример трансформера для временны́х рядов с мультимодальным входом (глюкоза + метаданные). Интересны детали архитектуры (BERT-стиль, маскирование будущих значений, variable context), DILATE + pinball loss, Kovatchev risk space. Код под MIT, можно форкнуть под свои медицинские задачи.
Бизнесу. Открывается ниша персонализированных AI-ассистентов для хронических болезней. Диабет 1-го типа — рынок ~10 млн человек только в США, CGM-датчики растут, следующий шаг — предиктивная аналитика для приложений типа Loop/AAPS. Можно паковать в SaaS для диабетиков или партнёрства с производителями мониторов.
Инвесторам. Персонализированная медицина на edge-устройствах — крупный тренд (diabetes management market ~$30 млрд). Если модель окажется клинически валидной, есть путь к FDA-регистрации как Software as Medical Device. Похожие стартапы (Diabeloop, Bigfoot Biomedical) привлекают сотни миллионов. Риск — регуляторика и клинические испытания дороги.
- Запустить SaaS-подписку для пользователей Dexcom/Freestyle Libre: персонализированный AI-прогноз на телефоне, ~$10-20/месяц
- Сделать SDK для интеграции в приложения типа Loop, xDrip+ — продавать лицензии производителям или DIY-комьюнити
- Обернуть в API для телемедицины: эндокринологи видят прогнозы пациентов в реальном времени, монетизация через клиники
- Адаптировать архитектуру под другие хронические болезни с continuous monitoring (сердце, астма, эпилепсия) — горизонтальная экспансия
- Партнёрство с производителями инсулиновых помп (Medtronic, Tandem) — встроенная предиктивная модель как конкурентное преимущество
- Регуляторика: FDA/CE mark для медицинских девайсов требует клинических испытаний и огромных затрат, без них нельзя продавать как лечебное средство
- Точность на личных данных автора ≠ точность на широкой популяции — диабет очень индивидуален, модель может плохо генерализироваться
- Ответственность: ошибка в прогнозе → гипогликемия/кетоацидоз → судебные иски. Без disclaimer и страховки не запустить коммерчески
- Требуется announced carbs/insulin — большинство людей не вводят всё это точно, модель теряет применимость в реальной жизни
Технически это очень крутой проект — показывает, что современные трансформеры можно обучить за двое суток на обычной железке и запустить на смартфоне. Для DIY-комьюнити диабетиков (Loop, AAPS) это золото: можно форкнуть, обучить на своих данных и получить персонального AI-ассистента.
Но с коммерческой точки зрения это пока proof-of-concept, а не продукт. Медицинская регуляторика — это годы клинических испытаний и миллионы долларов. Плюс модель требует, чтобы человек вручную вводил каждый приём пищи и дозу инсулина — а большинство людей этого не делают (или делают неточно). Пока это классный open-source инструмент для энтузиастов, но не готовый SaaS.
Комментарии