#backpropagation

И исследования ·2 авг 2026

Внутри функций активации: Sigmoid, Tanh и ReLU — Часть 1

Автор объясняет математику и историю функций активации в нейронных сетях, начиная с проблем перцептрона со ступенчатой функцией. Материал детально разбирает, почему нейросетям нужны нелинейные дифференцируемые функции для обучения через градиентный спуск, и как сигмоида стала первым решением.

0 30

И исследования ·21 июл 2026

Как обучаются языковые модели: принцип без магии

Объяснение процесса обучения языковых моделей на простом языке. Автор показывает, что вся «магия» LLM сводится к простому принципу: система видит множество примеров, измеряет свою ошибку и корректируется в сторону меньшей ошибки — триллионы раз подряд. Никакого «понимания» или учителя — только математическая оптимизация.

0 26