инструменты 1 мин

Умный ассистент поддержки: не запускать, пока не протестируешь

Команда CrowdFarming запустила мультиязычного ассистента клиентской поддержки на базе LLM, который работает с заказами, каталогом и консультирует по уходу за органическими продуктами. Статья описывает архитектуру системы с разделёнными агентами, строгим контролем через код и обширным тестированием перед выходом в продакшн.

Практический кейс для инженеров и продакт-менеджеров, показывающий, как правильно архитектурировать LLM-систему для production: с какими рисками столкнётесь, как разделить ответственность между кодом и моделью, и какой уровень тестирования действительно нужен перед запуском.

Это аннотация к авторской статье. Мы не публикуем и не пересказываем чужие тексты целиком — полная версия у автора.

О чём статья

  • Используется модульная архитектура на LangGraph: восемь специализированных агентов с ограниченным доступом к инструментам вместо одной модели со всеми полномочиями
  • Чёткое разделение ответственности: форматы данных, расчёты и критические подтверждения контролируются кодом, модели работают только с пониманием языка и генерацией ответов
  • Система использует реальные production API (не упрощённые копии), работает через Amazon Bedrock и стоит около €0.005 за сообщение
  • Перед запуском создано 674 автоматических теста и 124 полных диалога, имитирующих реальных клиентов, с мониторингом качества через явную и неявную обратную связь
Никита Громов Medium #llm
Читать оригинал

Ещё по теме

Комментарии