ainews
Google заменил RAG и эмбеддинги на непрерывную работу LLM: агент с постоянной памятью
Google Cloud выпустил Always-On Memory Agent — эталонную реализацию AI-агента, который не забывает контекст между сессиями. Вместо традиционных векторных баз и эмбеддингов используется Gemini 3.1 Flash-Lite, который непрерывно работает в фоне, структурирует воспоминания в SQLite и периодически их консолидирует, как человек во сне.
Это смена парадигмы от «поиска похожего» к «непрерывному осмыслению». Разработчикам агентов даётся готовый паттерн, как строить системы с настоящей долговременной памятью без головной боли с векторными базами.
Проблема забывчивых агентов
Большинство AI-агентов работают как амнезики: обработали запрос, ответили — и всё забыли. Google Cloud опубликовал в репозитории generative-ai образец Always-On Memory Agent, который решает эту проблему радикально.
Архитектура без векторов
Проект представляет собой лёгкий фоновый агент на базе Google ADK и Gemini 3.1 Flash-Lite, который работает 24/7. Принципиальное отличие: никаких векторных баз и эмбеддингов. Вместо этого LLM сама читает, думает и записывает структурированную память в обычный SQLite. Выбор модели продиктован низкой латентностью и стоимостью для непрерывной фоновой работы.
Три специализированных агента
Оркестратор направляет запросы к одному из трёх под-агентов:
IngestAgent обрабатывает входящий контент (тексты, PDF, аудио, изображения). Используя мультимодальные возможности Gemini, извлекает резюме, сущности, темы и оценку важности — всё это структурировано попадает в таблицу memories.
ConsolidateAgent запускается по таймеру каждые 30 минут. Подобно фазам сна, он пересматривает неконсолидированные воспоминания, находит связи между ними и записывает синтезированное резюме с ключевыми инсайтами в базу. Агент формирует новое понимание в простое, без промптов.
QueryAgent отвечает на вопросы, читая все воспоминания и инсайты консолидации, синтезирует ответ и обязательно ссылается на ID использованных воспоминаний как источники.
Практическое значение
Подход показывает путь от статичного RAG к динамическим системам памяти. Вместо семантического поиска по векторам — непрерывное осмысление контекста самой моделью. Код доступен в репозитории Google Cloud как reference implementation для разработчиков.
Ключевые выводы
- Замена RAG на непрерывную работу LLM: вместо поиска по эмбеддингам модель постоянно консолидирует знания
- Архитектура из трёх специализированных агентов (Ingest/Consolidate/Query) с SQLite вместо векторной БД
- ConsolidateAgent работает как фазы сна — периодически синтезирует связи между фактами без промптов
- Gemini 3.1 Flash-Lite выбран для баланса латентности и стоимости при 24/7 работе
- Цитирование источников: QueryAgent указывает ID конкретных воспоминаний в ответах
Автор: Павел Заславский · Источник: marktechpost.com
**Это действительно интересный сдвиг.** RAG и эмбеддинги стали стандартом, но Google показывает, что можно иначе: пусть модель сама структурирует память, а не полагается на косинусное сходство векторов. Gemini Flash-Lite достаточно дешёвая, чтобы крутиться в фоне постоянно, и достаточно быстрая для реалтайма.
Но есть нюансы. Во-первых, это reference implementation — красивая демка, не production-grade решение. Во-вторых, SQLite хорош для примера, но масштабируемость под вопросом. В-третьих, конфиденциальность: агент читает всё подряд и сам решает, что важно. Тем не менее, сама идея консолидации «во сне» элегантна — и открывает путь к агентам, которые действительно учатся на опыте, а не просто вспоминают похожее.
Инструменты из статьи
Мультимодальный ассистент Google: огромный контекст, интеграция с Workspace...
Доступ из РФ →
Комментарии