Почему нейросети с одинаковой функцией выглядят по-разному: разбор на 1,8 млн обученных моделей
Исследование показало, что 98% деградации точности при чтении весов независимо обученных нейросетей объясняется математическими симметриями параметров (перестановки нейронов, смена знаков, фазовые сдвиги). Но даже при полном устранении симметрий работа с весами уступает прямому вызову функции сети в 1.5 раза по точности и в 3.4 раза по вычислениям.
0
111