модели 1 мин

Kimi K3 — самая большая открытая модель в истории. Почти никто не может её запустить

Moonshot AI выпустила открытую модель Kimi K3 с 2,8 трлн параметров — крупнейшую в истории. Однако из-за огромного размера (1,4 ТБ весов даже в 4-битном квантовании) её практически невозможно запустить на собственном железе. Сама компания приостановила подписки из-за нехватки GPU для обслуживания спроса.

Важно разработчикам и исследователям, которые следят за трендом открытых моделей. Статья показывает, что масштаб современных LLM создаёт новый барьер: даже open source модели становятся доступны только владельцам дата-центров, что меняет саму идею «открытости».

Это аннотация к авторской статье. Мы не публикуем и не пересказываем чужие тексты целиком — полная версия у автора.

О чём статья

  • K3 требует около 1,4 ТБ памяти даже после квантования — это в десятки раз больше, чем у потребительских GPU
  • Moonshot сама столкнулась с дефицитом вычислительных мощностей для обслуживания собственной модели
  • Призывы к self-hosting открытых моделей упираются в реальность: размер K3 делает локальное развёртывание недостижимым для подавляющего большинства
  • «Открытые веса» не означают «доступные для запуска» — разрыв между open source и практической применимостью растёт
Ксения Лаврова Medium #llm
Читать оригинал

Инструменты из статьи

Открытая языковая модель класса 3T параметров от Moonshot AI, представляющая...

Доступ из РФ →

Ещё по теме

Комментарии