Насколько симметричны внутренности нейросети для игры в Го: исследование KataGo
Автор KataGo (open-source бот для игры в Го) исследовал, как нейросеть внутренне представляет доску: учится ли она понимать игру независимо от поворота доски или запоминает паттерны для каждой ориентации отдельно. Правила Го полностью симметричны при вращении/отражении, но сеть этого не знает — только случайная аугментация данных при обучении. Один из выводов оказался неожиданным. Исследование написано с помощью AI, но под детальным руководством человека.