ainews
Создать
Войти
Исследователи протестировали 9 моделей (GPT-4o, Claude, DeepSeek-R1, Qwen и др.) и выяснили: просьба к модели отвечать короче экономит до 3× на API-вызовах без потери точности, а сокращение входного промпта увеличивает расходы на 96% — модель компенсирует длинными ответами. Claude Code уже добавила режим concise output.
IBM Research показала: агентная память работает не как выключатель, а как доза — её нужно калибровать под модель. Сильные модели (DeepSeek-V3.2) растут на +9,5 п.п. при полном наборе инструкций, слабые (gpt-oss-120b) — на +16,1 п.п. при выборочной подаче, а насыщенные вообще не показывают прироста. Главное: обучение идёт вокруг модели, без обновления весов.
Разработчики массово просят LLM-агентов выдавать короткие, человеческие ответы (например, «как для людей с ADHD»). Но это ошибка: упрощение происходит ДО завершения работы, а не после — модель теряет детали, скрывает ошибки и не передаёт полную картину родительским агентам. Правильно: агенты общаются между собой точными данными, а «человечность» добавляется только на выходе.
Пользователь Reddit описал феномен context poisoning: когда исправляешь ошибку AI в долгом диалоге, модель запоминает не правильный ответ, а весь спор вокруг ошибки. Итог: неправильная идея получает больше веса в контексте, потому что упоминалась многократно — даже если каждый раз её опровергали. Вывод: лучше начать новый чат с правильной информацией, чем долго спорить со старым.
Разработчик заменил плоский markdown-промпт для AI-агента на граф в стиле POMDP (частично наблюдаемый марковский процесс принятия решений). Состояния агента стали узлами, действия — рёбрами с весами по вероятности успеха, стоимости токенов и исходу. Точность выполнения задач выросла с 78% до 95%, расход токенов снизился. Тестировали на Claude Opus 4.8 и Codex GPT-5.5.
Автор проводит параллель между своим опытом кастомизации мотоциклов и новым подходом к работе с LLM. Он предлагает фреймворк Model Modding — способ упаковывать поведенческие модификации AI как переиспользуемые, версионируемые и тестируемые компоненты, не меняя весов модели.
Anthropic сократила системный промпт Claude Code на 80% без потери качества в тестах. Автор объясняет, почему это НЕ означает, что всем нужно резать свои промпты: удалённые 80% были «заплатками» для слабых моделей, а не знаниями. Главное различие — между публичным знанием (которому модели учатся) и приватным (ваши внутренние правила, которых нет в обучающих данных).
Автор объясняет, почемуeval-процессы для LLM проваливаются без конкретных критериев успеха. Большинство команд застревают на этапе «оно должно работать хорошо», не определив измеримые метрики и чёткую рубрику оценки до начала тестирования.
Автор создал систему автогенерации заголовков для велозаездов в Strava и обнаружил, что качество результата зависит не от промптов, а от предварительной обработки данных. Вместо передачи сырых метрик AI он добавил слой контекста: погодные данные, производные характеристики заезда (восход, восстановительная поездка, тяжёлая нагрузка) и человекочитаемые описания.
