Трансформер

Также: transformer, архитектура трансформер

Архитектура нейросетей, на которой построены все современные LLM.

Трансформер (Transformer) — архитектура нейросетей, представленная Google в 2017 году («Attention Is All You Need»). На ней построены все современные LLM: GPT, Claude, Gemini.

Ключевая идея — механизм внимания (attention), позволяющий модели учитывать связи между всеми словами сразу, а не читать строго по порядку.