ainews
Создать
Войти
Агентные LLM-системы отличаются от обычных RAG-пайплайнов тем, что не выполняют фиксированную последовательность шагов, а сами принимают решения о следующем действии в цикле: рассуждение → выбор инструмента → выполнение → наблюдение результата → новое рассуждение. Статья разбирает архитектуру таких систем и инженерные решения для их надёжной работы в продакшене.
Paige и Microsoft выпустили PRISM2 — модель, которая анализирует гистологические препараты (whole-slide images) не просто классифицируя пиксели, а отвечая на диагностические вопросы текстом, как это делает врач. Обучена на 2,3 млн снимков и 685 тыс. отчётов, показывает точность на уровне клинических продуктов для рака груди и простаты.
Физиотерапевт разобрал реальную экономику внедрения роботов в клиниках: оборудование от $100k+, обслуживание, страховки, а робот не заменяет специалиста — только помогает. Человек обходится дешевле. Вопрос открыт: где реальная точка окупаемости AI, кроме производства с высоким объёмом повторяющихся задач.
Amazon Bedrock AgentCore gateway теперь умеет ограничивать AI-трафик на уровне пользователей: запросы в минуту, токены, одновременные соединения. Можно раздавать разные лимиты разным группам (Basic/Advanced/Beta) через JWT или IAM, защищая модели и инструменты от перегрузок и контролируя расходы.
Разработчик сжал классическую анимацию Bad Apple (6524 кадра, 854×480) в нейросеть весом 3,2 МБ. Вместо хранения кадров MLP с SIREN-активациями принимает координаты (время, x, y) и генерирует пиксель на лету. После доработок (time-stretch и выборка по движению) MSE упала в 9 раз — статичные кадры стали точнее в 15 раз, динамичные в 3,6 раза.
Автор протестировал две небольшие (~600M параметров) open-source OCR-модели на своём ноутбуке с RTX 4070. Обе можно запускать локально, но они решают противоположные задачи: GOT-OCR устанавливается за пять строк кода и возвращает чистый текст, а Surya-2 требует настройки сервера, зато выдаёт структурированный документ с типизированными блоками и координатами.
Бенчмарк speculative decoding на Qwen3.6-27B показал парадоксальный результат: чем меньше сжата модель (Q8 против Q4), тем больший прирост даёт спекулятивная генерация. DFlash — самый быстрый алгоритм в общем случае, MTP — стабильная альтернатива, EAGLE3 и ngram проигрывают. Результаты справедливы для узкого сценария (короткие выходы, один поток), под нагрузкой выигрыш сожмётся.
Автор раскладывает по полочкам экономику и технологию облачного инференса LLM. Объясняет, почему выходные токены дороже входных, как батчинг снижает затраты в 4 раза, и почему сравнивать цены за токен и за GPU-час бессмысленно без учёта утилизации. Приводит конкретные цифры: кто сколько привлёк, кто как быстро растёт, и какие технические трюки применяет.
Губернатор Техаса Грег Эбботт заморозил все новые проекты датацентров до аудита регуляторами. Очередь на подключение к энергосети выросла с 233 до 474 гигаватт за полгода — это в 5 раз больше пикового потребления штата. 90% заявок — дата-центры Google, Microsoft и крипто-майнеров. Цены на электричество растут, сеть перегружена. Техас, долго считавшийся раем для AI-инфраструктуры, может закрыться.
Автор объясняет, как работает пост-тренинг больших языковых моделей через обучение с подкреплением (RL), используя наглядную аналогию с деревом решений. Статья показывает, как модель учится перераспределять вероятности между токенами, чтобы максимизировать ожидаемую награду, и почему алгоритмы TRPO и PPO обновляют политику небольшими шагами.
