Контекстное окно
Также: context window, контекст, длина контекста
Максимальный объём текста, который модель «помнит» за один диалог.
Контекстное окно — сколько текста (в токенах) модель может держать «в голове» одновременно: ваш запрос + история диалога + документы. Если превысить — модель начинает «забывать» начало.
Современные модели держат от 128 тысяч до 1 млн токенов — это сотни страниц. Для работы с большими объёмами данных используют RAG.