Одно изменение вывода сократило workflow агента с трёх шагов до одного
Автор месяцами улучшал промпты AI-агента для поиска по PDF, пока не понял, что проблема не в рассуждениях модели, а в формате вывода инструмента. Вместо фиксированного окна в 200 символов вокруг ключевого слова он переключился на возврат структурной единицы документа (абзаца, пункта, заголовка). Это устранило необходимость в дополнительных вызовах для чтения контекста.
Практический кейс для разработчиков AI-агентов: показывает, что оптимизация часто нужна не в промптах или архитектуре агента, а в качестве данных, которые возвращают инструменты. Конкретный пример с измеримым результатом.
Это аннотация к авторской статье. Мы не публикуем и не пересказываем чужие тексты целиком — полная версия у автора.
О чём статья
- Фиксированное окно поиска часто возвращало склеенные фрагменты из разных структурных блоков, создавая шум и неоднозначность
- Переход на возврат структурных единиц документа дал меньше символов, но больше ясности — параграф часто короче 200 символов, но содержит завершённый смысл
- Когда агент делает цепочки вызовов, проблема часто не в его reasoning, а в том, что ни один инструмент не возвращает достаточно полную единицу смысла
- Автор провёл бенчмарк на 30 запросах и 5 PDF, обнаружив собственные ошибки в ground truth и случаи, где параграфный режим хуже (таблицы, подписи к рисункам)
Юлия Тарасова
Medium #artificial-intelligence
Читать оригинал
Комментарии