ainews
Создать
Войти
Разработчики массово просят LLM-агентов выдавать короткие, человеческие ответы (например, «как для людей с ADHD»). Но это ошибка: упрощение происходит ДО завершения работы, а не после — модель теряет детали, скрывает ошибки и не передаёт полную картину родительским агентам. Правильно: агенты общаются между собой точными данными, а «человечность» добавляется только на выходе.
Автор столкнулся с тем, что его план Claude Code регулярно исчерпывался до полудня на обычных рабочих задачах. Расследование показало, что проблема не в количестве использования, а в структуре трат токенов — и детальный анализ JSONL-логов сессий раскрыл конкретные источники перерасхода.
Пользователь потратил кучу времени на локальный запуск DeepSeek V4 Flash и нашёл три критичных проблемы: GGUF от Unsloth падает на CPU (4-7 tok/s вместо GPU), tool calls молча ломаются из-за бага в Unsloth Studio, а после 130K токенов cache invalidation убивает производительность из-за лимита в 30GB. Решение — перейти на MLX-версию и переключиться с Unsloth на Hermes Agent.
Команда столкнулась с регулярными падениями распределённого LLM-кластера из пяти Mac Studio (96 ГБ памяти), связанных через Thunderbolt 5. Проблема оказалась многослойной: баг в mlx.launch не убивал удалённые процессы при сбое, orphan-процессы в состоянии Us+ накапливались сотнями и истощали пул RDMA protection domains, что приводило к RuntimeError при инициализации новых задач.
