Маленький AI завоёвывает мир там, где ChatGPT бессилен
Пока богатые страны гонятся за триллионами параметров, миллионы людей в Африке, Азии и Латинской Америке используют «маленький AI» — компактные модели на несколько миллиардов параметров, работающие на телефонах, дронах и Arduino без интернета и электросетей. Эти системы спасают жизни: проверяют поддельные лекарства в Нигерии, диагностируют болезни растений в Индии, детектируют малярийных комаров и делают ЭКГ в глубинке Бразилии. Всемирный банк считает малый AI главным трендом для развивающихся стран — только 0,7% пользователей в беднейших регионах вообще пробовали ChatGPT.
Пока индустрия фокусируется на гонке параметров для богатых рынков, миллиарды людей получают первый доступ к AI через малые модели — и это не просто «AI для бедных», а возможно более устойчивая и практичная парадигма для всех, когда гиганты станут слишком дороги.
Спектрометр, который не работал
В 2019 году нигерийский стартапер Адебайо Алонге готовился показать инвесторам в Кейптауне своё изобретение — карманный спектрометр RxScanner, который сканирует таблетку инфракрасным светом и отправляет молекулярный профиль на AI-сервер с фармацевтической базой. За секунды система определяет, настоящее ли лекарство или подделка. В Африке поддельные препараты убивают тысячи людей ежегодно, и гаджет уже работал в десятке стран.
Но утром демо провалилось: сервер был в США, за 14 000 км, соединение ползло — на один анализ уходило 5 минут. Алонге попросил инженеров за два часа ужать модель так, чтобы она целиком уместилась в Android-телефон. Презентацию спасли, а заодно родилась новая версия устройства — для мест без интернета, компьютеров и стабильного электричества.
Другой AI для другого мира
Пока в Кремниевой долине обсуждают триллионы параметров и сознание LLM, для миллиардов людей единственный доступный AI — малый. По данным Всемирного банка (ноябрь 2024), только 0,7% интернет-пользователей в беднейших странах хоть раз пробовали ChatGPT — против четверти в развитых. «Большинство говорит об LLM, но им нужна огромная вычислительная мощь, электричество, массивы данных и квалифицированный персонал, — сказал президент Всемирного банка Аджай Банга на форуме в Давосе. — Вне развитого мира, кроме, может, Индии и Китая, таких условий почти нигде нет».
Малый AI — это модели с несколькими миллиардами параметров (не триллионами), которые работают на телефонах, Raspberry Pi, Arduino. Им не нужен дата-центр: всё крутится локально, хватает батарейки или солнечной панели.
Примеры в деле:
- Индия: дрон от Vellore Institute of Technology фотографирует кешью, выявляет болезни растений — вся обработка на борту, без серверов.
- Уругвай: модель детектирует муравьёв-вредителей на виноградниках.
- Африка и Азия: система распознаёт малярийных комаров.
- Бразилия: Arduino-устройство делает электрокардиограммы в регионах без медоборудования.
«Это сейчас самая важная область в AI, — говорит профессор Марсело Ровай из Федерального университета Итажубы (Бразилия), участвовавший в трёх из этих проектов. — И растёт очень быстро».
Обрезка гигантов
Малые модели создают двумя путями: «обрезкой» (pruning) — удаляют параметры больших моделей, не нужные для конкретной задачи, или «дистилляцией» — обучают компактную модель копировать поведение гиганта. Результат: система хуже в общих вопросах, но отлично справляется со своей узкой работой.
Алонге убеждён: будущее — не один гигантский централизованный AI, а миллионы маленьких специализированных моделей на периферии, каждая для своей задачи и контекста. «Если кто-то не субсидирует большие модели, большинство людей их не потянет, — говорит он. — Так что нам, разработчикам малого AI, придётся строить для большей части человечества».
Всемирный банк называет малый AI «многообещающим трендом», но для миллионов это не тренд — это единственная форма AI, которая дотянется до их жизни и останется доступной, когда гиганты станут слишком дороги.
Ключевые выводы
- Только 0,7% пользователей в беднейших странах пробовали ChatGPT — для них единственный доступный AI это малые модели на устройствах
- Малые модели (до нескольких млрд параметров) работают локально на телефонах, дронах, Arduino — без интернета, серверов и мощного электричества
- Реальные применения уже спасают жизни: проверка поддельных лекарств в Африке, диагностика болезней растений в Индии, ЭКГ в бразильской глубинке
- Малые модели создают «обрезкой» больших (удаляют ненужные параметры) или «дистилляцией» (обучают копировать поведение гиганта)
- Будущее AI может быть не в одном мегасервере, а в миллионах специализированных малых моделей на периферии — это устойчивее и доступнее
Автор: Павел Заславский · Источник: spectrum.ieee.org
Это один из тех текстов, который заставляет остановиться и подумать: а не упустили ли мы что-то важное, гонясь за GPT-5 и мультимодальностью? Статья из IEEE Spectrum показывает параллельную вселенную AI — без хайпа, без миллиардных раундов, зато с реальной пользой: модели на пару гигабайт параметров крутятся на Arduino и телефонах, проверяют лекарства в африканских аптеках и делают кардиограммы в бразильской глубинке. Всемирный банк прямо говорит: для 99,3% людей в беднейших странах ChatGPT — абстракция, а малый AI — единственный доступный.
Что реально круто: это не филантропия и не упрощённая версия «настоящего» AI. Это технологически грамотное решение — обрезанные или дистиллированные модели, которые теряют универсальность, но побеждают в конкретной задаче. И вот тут начинается интрига: Алонге и другие герои материала считают, что это не временный костыль, а **будущее** — миллионы маленьких специализированных моделей на краю сети вместо одного гигантского оракула в дата-центре. Потому что гиганты либо слишком дороги без субсидий, либо физически недоступны. А малые модели работают на солнечной панели. Пища для размышлений о том, куда реально движется массовый AI — и насколько наша гонка параметров устойчива в долгосрочной перспективе.
Комментарии