#архитектура нейросетей

И исследования ·2 авг 2026

Основы ИИ: активационные функции и почему сети нужна нелинейность

Автор объясняет, почему нейронные сети без нелинейных активационных функций бесполезны: любое количество линейных слоёв схлопывается в одну матричную операцию и может проводить только прямые линии в пространстве признаков. Нелинейность (даже простая ReLU) ломает это ограничение и позволяет сети строить сложные границы решений.

0 68

И исследования ·30 июл 2026

Нейросети без умножений: как сократить энергопотребление AI в 1000 раз

Профессор из Техасского университета доказала, что нейросети можно строить не на миллиардах умножений, а на простых таблицах поиска (lookup tables). Результат: модели в 1000 раз меньше и быстрее при той же точности. Пока работает на медсенсорах и распознавании ключевых слов, но цель — заменить трансформеры в ChatGPT.

0 51