Популярное за неделю

И исследования ·9 сен 2024

Чего не хватает LLM-чатботам: чувства цели

Современные LLM-чатботы оцениваются по разовым бенчмаркам (MMLU, HumanEval), но реальное взаимодействие требует целенаправленного многоходового диалога. Текущие метрики не измеряют способность моделей вести продуктивную беседу с конкретной целью — будь то планирование путешествия, отладка кода или персональная ассистентская работа. Для настоящего человеко-AI сотрудничества нужны новые подходы к обучению и оценке диалоговых систем.

0 134

И исследования ·4 июн 2025

Почему мультимодальность не приведёт к AGI

Автор критикует популярную идею, что склеивание разных модальностей (текст, изображения, звук) в одну большую модель приведёт к сильному ИИ. Главный тезис: настоящий AGI должен понимать физический мир и уметь в нём действовать — завязывать узлы, ремонтировать машины, готовить еду. LLM же учатся не модели мира, а набору эвристик для предсказания токенов, что даёт лишь поверхностное понимание реальности.

0 32

И исследования ·3 авг 2024

Нам нужны позитивные сценарии будущего с ИИ, основанные на благополучии людей

Авторы из The Gradient предлагают новый подход к разработке ИИ: вместо абстрактных рассуждений о «полезности» — опираться на конкретные факторы человеческого благополучия (meaningful work, отношения, рост). Их тезис: ИИ уже участвует в ухудшении показателей wellbeing (одиночество, недоверие к институтам), но технически возможно развернуть его в обратную сторону — если создать конкретные позитивные сценарии будущего и встроить понимание wellbeing в фундаментальные модели.

0 90

И исследования ·24 фев 2024

Почему ваша ML-модель блестяще работает на тестах, но проваливается на реальных данных

Модели машинного обучения часто показывают отличные результаты на тестовых данных, но терпят фиаско в реальном мире из-за скрытых переменных, ложных корреляций и ошибок в данных. Сотни моделей для прогнозирования COVID, например, оказались бесполезными. Статья разбирает типичные ловушки ML и способы их избежать, включая новый REFORMS-чеклист для научных исследований.

0 122

И исследования ·16 ноя 2024

Математика в эпоху больших моделей: от проектирования к объяснению

Роль математики в ML меняется: раньше она диктовала дизайн архитектур, теперь помогает объяснять эмпирические феномены уже обученных моделей. Вместо гарантий производительности — постфактум-анализ, как в физике. При этом «чистые» разделы математики (топология, алгебра, геометрия) становятся всё актуальнее для понимания многомерных пространств параметров и скрытых активаций нейросетей.

0 52

Б безопасность ·5 мар 2024

Векторные базы данных хранят не числа, а ваши секреты. Как восстановить текст из эмбеддингов

RAG-системы преобразуют тексты в векторные представления (эмбеддинги) и хранят их в специализированных базах данных. Новое исследование показывает: из этих «случайных чисел» можно восстановить исходный текст с точностью до 92%. Это ставит под вопрос безопасность хранения конфиденциальных данных в векторном формате.

0 94

И исследования ·8 апр 2024

Гендерные предрассудки в AI: от сексистских аналогий до распознавания лиц

AI-модели воспроизводят и усиливают гендерные стереотипы из обучающих данных. Исследования показывают: word embeddings выдают аналогии вроде «мужчина — программист, женщина — домохозяйка», а системы распознавания лиц ошибаются на темнокожих женщинах в 34,7% случаев против 0,8% на светлокожих мужчинах. Проблема решаема через более разнообразные датасеты и математические методы «debiasing».

0 83

М модели ·28 мар 2024

Mamba: конкурент трансформеров с линейной сложностью и миллионом токенов контекста

Mamba — альтернатива трансформерам на основе State Space Models (SSM). Обещает схожую производительность, но без квадратичного узкого места Attention: работает в 5 раз быстрее, масштабируется линейно и справляется с контекстом до миллиона токенов. Mamba-3B сопоставима с трансформерами вдвое большего размера.

0 57

И исследования ·14 окт 2023

Нейросети учатся думать как алгоритмы: зачем машинному обучению классическая информатика

Исследователи пытаются научить нейросети выполнять классические алгоритмы (сортировка, поиск кратчайшего пути) — не для практической пользы, а чтобы привить им ключевые свойства алгоритмов: доказуемую корректность, надёжное обобщение и интерпретируемость. Главная находка: архитектура нейросети должна «выравниваться» (align) с логикой алгоритма — тогда она обучается на порядки быстрее.

0 96

Б безопасность ·7 окт 2023

Выравнивание ИИ: когда безопасность служит продажам

Автор критикует индустрию ИИ-безопасности за подмену понятий: вместо защиты от реальных рисков компании вроде OpenAI и Anthropic под видом «выравнивания» (alignment) занимаются созданием продукта, который хорошо продаётся. Дискуссия об экзистенциальных угрозах отвлекает от настоящих проблем ИИ, а главная цель — не предотвратить катастрофу, а заработать.

0 95