#observability

Б безопасность ·21 июл 2026

Как логи отладки AI-агента стали базой медицинских данных — и что с этим делать

Автор добавил систему мониторинга в клинический AI-агент и обнаружил, что трейсы содержат незащищённые персональные медицинские данные (PHI). Стандартное решение — редактирование перед экспортом — оказалось сложнее, чем кажется: даже с библиотекой Presidio от Microsoft детектор пропустил 135 из 752 PHI-сущностей на тестовом наборе.

0 131

И инструменты ·17 июл 2026

Неправильный ответ AI — это не диагноз

Статья объясняет, почему сквозная (end-to-end) оценка AI-систем показывает лишь факт ошибки, но не её причину. Автор разбирает пример с виртуальным ассистентом, который дал неверный ответ о сроках возврата товара, хотя ни один компонент системы явно не «сломался» — проблема возникла на стыке query rewriting, retrieval и формирования контекста.

0 86