ainews
2.6B модель с вызовом функций на телефоне: Liquid AI сделала агента для локального запуска
Liquid AI выпустила LFM2.5-2.6B — компактную модель на 2.69B параметров с поддержкой вызова инструментов, 128K контекстом и оптимизацией под агентные задачи. Заявленная скорость: 30 tok/s на телефоне, квантизованная версия весит 1.67 ГБ. По бенчмаркам конкурирует с Qwen3.5-9B в задачах на инструменты, но слабее в коде и знаниях. Позиционируется как дешёвый рабочий агент для рутинных операций локально.
Впервые появилась модель, которая реально может тянуть агентные задачи с функциями на обычном телефоне или слабом компьютере. Если это не хайп — меняется экономика AI-продуктов: можно делать умные приложения без постоянных облачных расходов и с приватностью по умолчанию.
Что произошло
Liquid AI выкатила LFM2.5-2.6B — модель на 2.69 млрд параметров, заточенную под агентные сценарии с вызовом функций. Ключевые характеристики:
- Размер: квантизованная Q4_K_M GGUF весит 1.67 ГБ
- Скорость (по заявкам производителя): 30 tok/s на телефоне, 113 на Ryzen AI Max+, 220 на M5 Max
- Контекст: 128K токенов
- Потребление памяти: меньше 2.5 ГБ в тестах
- Уже совместима с llama.cpp
Где сильна, где провисает
По бенчмаркам для инструментальных задач модель почти догоняет в 3.5 раза большую Qwen3.5-9B: - ToolSandbox: 77.83 vs 76.44 у Qwen - IFBench: 59.17 vs 56.47 - BFCLv4: отстаёт — 56.88 vs 60.13 - LiveCodeBench: заметно слабее — 59.41 vs 69.86
Сами создатели честно говорят: для кодинга и знаниеёмких задач не подходит. Зато заточена под многошаговые рабочие процессы с вызовом инструментов.
Архитектура использования
Практический смысл не в замене больших моделей, а в разделении труда: маленькая модель тянет рутину (извлечение данных, поиск, файловые операции, повторяющиеся вызовы API) локально, большая включается только для планирования и сложных решений.
Отдельный вопрос — заявленные 128K контекста. Поддерживать и комфортно использовать на телефоне при накоплении KV-кэша и длинной истории агента — разные вещи. Нужны независимые тесты на Android, старых ноутбуках и мини-ПК с реальными агентными сценариями на 10+ последовательных вызовов функций.
Автор: Анна Мельникова · Источник: reddit.com
Разработчикам. Готовая GGUF для llama.cpp, можно встроить в приложения как дешёвого рабочего агента для рутинных операций: парсинг, API-вызовы, файловая работа. Архитектура 'маленький агент + большая модель для планирования' становится реальной для продакшна на клиентских устройствах.
Бизнесу. Возможность запускать агентов с вызовом функций на пользовательских устройствах без облака открывает модели с приватностью по умолчанию: персональные ассистенты, автоматизация рабочих процессов, локальные CRM-агенты. Экономия на инференсе и защита данных.
Инвесторам. Сегмент мелких специализированных моделей набирает обороты — конкуренция сдвигается в сторону эффективности и композиции агентов. Liquid AI показывает, что можно конкурировать с крупными игроками на узких задачах при в разы меньших ресурсах. Следите за стартапами в области multi-agent orchestration и edge AI.
- Персональные агенты на телефоне: email-сортировщики, планировщики задач, интеграции с календарём и заметками — всё локально, без отправки данных в облако
- SaaS-продукты с гибридной архитектурой: лёгкий агент для рутины на клиенте, тяжёлая модель в облаке только для сложных решений — экономия на API-вызовах
- Агентные CLI-инструменты для разработчиков: автоматизация файловых операций, рефакторинг простых паттернов, работа с Git локально на слабом железе
- Образовательные платформы с персональным тьютором на устройстве: проверка домашек, подсказки, квизы — даже без интернета
- IoT и edge-устройства: автоматизация умного дома, локальные агенты для мониторинга и управления без зависимости от облачных сервисов
- Заявленные скорости — это вендорские бенчмарки. Реальная производительность на среднем железе и в реальных агентных сценариях может быть заметно ниже
- 128K контекст на телефоне — маркетинговая цифра до первого столкновения с KV-кэшем. При длинных агентных историях либо скорость упадёт, либо память кончится
- Модель явно слабее в коде и знаниях — если рынок пойдёт в сторону универсальных агентов, ниша узкоспециализированных моделей сузится
- Liquid AI пока не мейнстрим — экосистема, поддержка сообщества и доверие бизнеса сильно уступают OpenAI, Anthropic, Meta
Это первая модель, где я реально вижу практический смысл для продакшна на клиентских устройствах. Не потому что она умная (она не умная), а потому что она дешёвая и достаточная для рутинных агентных задач. Email-сортировщик, планировщик встреч, интеграция с календарём, автоматизация файловых операций — всё это можно крутить локально на телефоне или ноутбуке без отправки данных в облако и без ежемесячной подписки на API.
Но нужно понимать ограничения: это не замена GPT-4, а рабочая лошадка для простых повторяющихся операций. Архитектура 'маленький агент для рутины + большая модель для сложных решений' становится реальной, если модель действительно стабильна на длинных цепочках вызовов функций. Пока это вендорские бенчмарки — жду независимых тестов от сообщества на реальном железе и с агентными сценариями. Если подтвердится — это серьёзный сдвиг в экономике AI-продуктов.
Комментарии