ainews
AMD ROCm: как заставить INT8 работать быстрее FP8 в Krea2 через точечный Triton
Пользователь на AMD RX 9070 XT разогнал INT8-инференс модели Krea2 Turbo в 6–7 раз и на 17% обошёл FP8, выборочно включив Triton только для ConvRot операций вместо глобальной активации, которая крашит систему. Весь трюк — в обходе нестабильного ROCm-стека через локальный патч.
0
17
