Почему я логирую ВСЕ промпты и ответы, даже в проде

Без логов дебажить LLM невозможно: пользователь жалуется, а ты не знаешь, что реально ушло в модель.

Пишу полный промпт, ответ, версию модели и латенси. PII маскирую на входе, храню ограниченный срок.

Это спасало десятки раз: половина «багов модели» оказывались кривым промптом от нашего же кода.