#BitNet

И инструменты ·31 июл 2026

Трансформер для апскейла сжали до 668 КБ с помощью тернарной квантизации BitNet

Исследователи применили 1.58-битную квантизацию BitNet к vision-трансформеру Swin2SR для увеличения изображений. Модель весит всего 668 КБ в сжатом виде, работает в браузере и даёт +2.66 dB прироста качества над бикубической интерполяцией при увеличении в 2 раза.

0 130
И инструменты ·24 июл 2026

Разработчик ускорил ядро в 29 раз — и получил всего 6% прироста в реальности

Разработчик inference-движка на C99 для тернарных моделей BitNet две недели писал новое матричное ядро с AVX-512, разогнал его в 29 раз по бенчмаркам, но в реальном конвейере прирост оказался всего 6–10%. Причина: модель упирается в пропускную способность RAM (95% загрузки), а не в вычисления — быстрее считать нечего, если данные не успевают подгружаться.

0 74