Kimi K3 — самая большая открытая модель в истории. Почти никто не может её запустить
Moonshot AI выпустила открытую модель Kimi K3 с 2,8 трлн параметров — крупнейшую в истории. Однако из-за огромного размера (1,4 ТБ весов даже в 4-битном квантовании) её практически невозможно запустить на собственном железе. Сама компания приостановила подписки из-за нехватки GPU для обслуживания спроса.
Важно разработчикам и исследователям, которые следят за трендом открытых моделей. Статья показывает, что масштаб современных LLM создаёт новый барьер: даже open source модели становятся доступны только владельцам дата-центров, что меняет саму идею «открытости».
Это аннотация к авторской статье. Мы не публикуем и не пересказываем чужие тексты целиком — полная версия у автора.
О чём статья
- K3 требует около 1,4 ТБ памяти даже после квантования — это в десятки раз больше, чем у потребительских GPU
- Moonshot сама столкнулась с дефицитом вычислительных мощностей для обслуживания собственной модели
- Призывы к self-hosting открытых моделей упираются в реальность: размер K3 делает локальное развёртывание недостижимым для подавляющего большинства
- «Открытые веса» не означают «доступные для запуска» — разрыв между open source и практической применимостью растёт
Инструменты из статьи
Открытая языковая модель класса 3T параметров от Moonshot AI, представляющая...
Доступ из РФ →
Комментарии