Умный ассистент поддержки: не запускать, пока не протестируешь
Команда CrowdFarming запустила мультиязычного ассистента клиентской поддержки на базе LLM, который работает с заказами, каталогом и консультирует по уходу за органическими продуктами. Статья описывает архитектуру системы с разделёнными агентами, строгим контролем через код и обширным тестированием перед выходом в продакшн.
Практический кейс для инженеров и продакт-менеджеров, показывающий, как правильно архитектурировать LLM-систему для production: с какими рисками столкнётесь, как разделить ответственность между кодом и моделью, и какой уровень тестирования действительно нужен перед запуском.
Это аннотация к авторской статье. Мы не публикуем и не пересказываем чужие тексты целиком — полная версия у автора.
О чём статья
- Используется модульная архитектура на LangGraph: восемь специализированных агентов с ограниченным доступом к инструментам вместо одной модели со всеми полномочиями
- Чёткое разделение ответственности: форматы данных, расчёты и критические подтверждения контролируются кодом, модели работают только с пониманием языка и генерацией ответов
- Система использует реальные production API (не упрощённые копии), работает через Amazon Bedrock и стоит около €0.005 за сообщение
- Перед запуском создано 674 автоматических теста и 124 полных диалога, имитирующих реальных клиентов, с мониторингом качества через явную и неявную обратную связь
Никита Громов
Medium #llm
Читать оригинал
Комментарии