ainews
Почему «гуманизация» AI-агентов убивает качество их работы
Разработчики массово просят LLM-агентов выдавать короткие, человеческие ответы (например, «как для людей с ADHD»). Но это ошибка: упрощение происходит ДО завершения работы, а не после — модель теряет детали, скрывает ошибки и не передаёт полную картину родительским агентам. Правильно: агенты общаются между собой точными данными, а «человечность» добавляется только на выходе.
Если ты делаешь или используешь AI-агентов, этот подход напрямую влияет на их надёжность и точность — сейчас многие теряют качество, даже не замечая.
Что произошло
В разработческом комьюнити (GitHub, X, Hacker News) набирает популярность тренд: добавлять в промпты инструкции вроде «веди себя, будто у меня ADHD», «используй упрощённый технический английский (ASD-STE100)», «избегай жаргона, пиши коротко». Автор статьи объясняет, почему это плохая идея для многоагентных AI-систем.
Проблема: когда ты просишь агента упрощать вывод прямо в промпте, это правило становится частью его рабочего процесса. Агент начинает сжимать информацию до того, как закончит анализ — теряются нюансы, детали, контекст. Например, sub-агент находит баг, упаковывает находки в «красивое резюме», передаёт родительскому агенту, тот ещё раз перепаковывает — и до тебя доходит лишь сглаженная версия, где не видно конфликтов, неопределённостей или стектрейсов.
Суть: AI-системы должны работать как обычный софт — хранить данные в максимально точном виде (схемы, диффы, ошибки, уверенность) и упрощать только на финальном этапе, когда отдают результат человеку. Сейчас всё наоборот: упрощение встроено в работу агента, и ты получаешь приятный, но неполный ответ.
Автор: Марина Соколова · Источник: hnrss.org
Разработчикам. Если делаешь AI-агентов, не добавляй стилевые правила (короткие фразы, простой язык) в core-промпты. Пусть агенты обмениваются структурированными данными, а форматирование для человека делается на boundary layer — как рендеринг в UI. Иначе потеряешь debugging-инфу и точность.
Бизнесу. Если внедряешь AI-ассистентов или агентов в продукт, не заставляй их упрощать вывод на каждом шаге — это скрывает ошибки и снижает качество. Лучше держать полные логи внутри системы и показывать пользователю адаптированную версию только в интерфейсе.
Инвесторам. Растёт запрос на персонализацию AI-интерфейсов (ADHD-friendly, упрощённый язык), но текущие решения убивают точность. Появится спрос на инфраструктуру для AI-агентов с разделением внутреннего состояния и пользовательского вывода — тулинг для этого пока сырой.
- Сделать middleware для AI-агентов, который отделяет внутреннее представление данных от пользовательского рендеринга (аналог presentation layer в веб-фреймворках)
- Создать библиотеку для structured outputs между AI-агентами: схемы, диффы, провенанс, confidence scores — чтобы не терять информацию в цепочках
- Разработать персонализированные рендереры для AI-выводов: ADHD-friendly, упрощённый техязык, визуализация — но на уровне UI, не промптов
- Консалтинг/обучение: как правильно строить промпты для мультиагентных систем, чтобы не убивать точность «гуманизацией»
- Инструменты для debugging AI-агентов: логирование полного internal state до упрощения, чтобы видеть, что потерялось при сжатии
- Тренд на упрощение промптов уже вирусный — переучивать комьюнити будет сложно, большинство не видит проблемы
- Производители моделей могут встроить «гуманизацию» прямо в базовое поведение LLM, и тогда разделение станет сложнее
- Для простых use-case (чатботы, FAQ) текущий подход работает нормально — статья актуальна только для сложных агентов
- Рынок тулинга для AI-агентов ещё не устоялся, инвестировать рано — многое изменится с новыми версиями моделей
Статья попадает в точку: мы массово учим AI быть «человечнее», но забываем, что для сложных систем это токсично. Агенты — не люди, и пытаться сделать их output приятным на каждом шаге — всё равно что заставлять базу данных хранить JSON в читаемом виде. Это работает для простых чатов, но когда агенты общаются между собой, такая «гуманизация» превращается в игру в испорченный телефон: каждый слой что-то теряет, сглаживает ошибки, маскирует неопределённость.
Что интересно: автор не против упрощения как такового — он против того, что оно встроено не туда. Правильная архитектура — это когда агенты внутри работают с полными, точными данными (стектрейсы, схемы, confidence scores), а упрощение применяется только на границе с пользователем. Пока что индустрия делает наоборот, и вирусные «skills» вроде ADHD-стиля — это попытка пользователей залатать проблему промптами, хотя её нужно решать в инфраструктуре. Кто первым сделает нормальный rendering layer для AI-агентов, займёт крутую нишу.
Комментарии