ainews
Создать
Войти
AWS добавила в SageMaker JumpStart модель NVIDIA Nemotron 3.5 Lightning — компактную MoE-модель (30B параметров, 3B активных) с контекстом 1M токенов, специально заточенную под массовые агентские задачи. Обещает в 4 раза выше throughput и на 30% быстрее выполнение типовых шагов агентов, работает на одной GPU.
NVIDIA представила Nemotron 3.5 Lightning — легковесную MoE-модель для агентов (30B параметров, активно 3B) с контекстом 1M токенов и скоростью в 4 раза выше аналогов. В комплекте роутер NeMo Switchyard, который снижает расходы на 74% за счёт умной маршрутизации между моделями. Работает на одной GPU, открытые веса, коммерческая лицензия.
NVIDIA NeMo выпустила Molt — компактный RL-фреймворк для обучения AI-агентов. 8,6K строк против 62K у конкурентов, работает на PyTorch нативно, использует vLLM и Ray без форков. Требует 2 ноды с 8 H100 GPU каждая, запускается одним флагом от 4B до 700B параметров. Apache 2.0, готов к использованию.
