#embeddings

И инструменты ·17 июл 2026

EU AI Act OpenRAG: база из 933 юридических чанков европейского AI-регламента для RAG-систем

Разработчик выложил структурированный датасет европейского AI Act (Regulation EU 2024/1689) — 933 чанка с эмбеддингами BGE-M3, нарезанных не по символам, а по юридической структуре (статья, параграф, приложение). Всё упаковано в один SQLite-файл с метаданными и ссылками на EUR-Lex. Тесты показали, что структурная нарезка даёт recall@20 0.541 против 0.449 у базовой chunking-стратегии.

0 175

И исследования ·1 сен 2025

Как word2vec учится понимать слова: теория наконец разгадана

Исследователи из Berkeley AI Research впервые создали полную математическую теорию обучения word2vec — алгоритма, предшествовавшего современным языковым моделям. Оказалось, что word2vec учит концепты последовательно, одну за другой, а финальные представления слов можно получить простым методом главных компонент (PCA). Эта теория объясняет, почему embeddings слов обладают линейной структурой и позволяют решать аналогии типа «король — королева».

0 78