модели 1 мин

Kimi K3: открытая модель вплотную приблизилась к фронтиру

Moonshot AI представила Kimi K3 — модель с 2,8 трлн параметров, которая стала ближайшим к передовым закрытым моделям открытым решением после DeepSeek R1. Веса модели обещают выложить к 27 июля. В некоторых задачах (агентные сценарии, кодирование) K3 обходит лидеров, хотя в целом уступает Claude Fable 5 и GPT-5.6 Sol.

Статья важна для понимания актуального расклада сил в гонке AI: китайские открытые модели догоняют закрытых лидеров, дистилляция становится массовой практикой, а архитектурные инновации позволяют компенсировать ограничения в капитале и железе.

Это аннотация к авторской статье. Мы не публикуем и не пересказываем чужие тексты целиком — полная версия у автора.

О чём статья

  • K3 показывает 57,11 по Intelligence Index — между лидерами и преследователями, лидирует в агентных задачах и frontend-бенчмарках
  • Архитектура использует Mixture-of-Experts (16 из 896 экспертов на токен), Attention Residuals (повышает эффективность обучения на ~25%) и квантизацию до 4 бит
  • Экономика противоречива: цена за токен ниже OpenAI/Anthropic, но в 3 раза выше предыдущей версии; модель генерирует на 54% больше токенов, размер весов ~1,5 ТБ
  • Китайские лаборатории активно используют дистилляцию западных моделей (включая Claude Fable), но для успеха K3 требовались сильная базовая модель и оригинальные исследования
открытые моделиMixture-of-Expertsдистилляциякитайские AI-лабораторииагентные возможности
Ксения Лаврова Medium #llm
Читать оригинал

Инструменты из статьи

Открытая языковая модель класса 3T параметров от Moonshot AI, представляющая...

Доступ из РФ →

Ещё по теме

Комментарии