Войти

Популярное за неделю

М модели ·11 сен 2025

От коллег к заклинателям: как новые AI превращают нас из партнёров в зрителей

Автор книги Co-Intelligence заметил сдвиг в работе с AI: раньше мы были партнёрами, корректирующими ошибки ИИ и направляющими его, теперь — становимся зрителями магического процесса. GPT-5 Pro и Claude 4.1 выдают поразительные результаты на простые запросы (находят ошибки в научных статьях, переделывают сложные Excel-модели), но мы не знаем, как именно они это делают и насколько можно доверять выводам. Это переход от со-интеллекта к работе с «волшебником»: магия происходит, но мы лишь получаем результат, не участвуя в процессе.

0 83
И исследования ·1 сен 2025

Как word2vec учится понимать слова: теория наконец разгадана

Исследователи из Berkeley AI Research впервые создали полную математическую теорию обучения word2vec — алгоритма, предшествовавшего современным языковым моделям. Оказалось, что word2vec учит концепты последовательно, одну за другой, а финальные представления слов можно получить простым методом главных компонент (PCA). Эта теория объясняет, почему embeddings слов обладают линейной структурой и позволяют решать аналогии типа «король — королева».

0 80
И инструменты ·12 ноя 2025

Как провести собеседование для вашей AI-модели

Стандартные бенчмарки AI (вроде MMLU или AIME) имеют массу проблем: в них попадают ошибки, модели учатся под тесты, а результаты не всегда коррелируют с реальной пользой. Эксперты разработали неформальные методы оценки «на вайбах» — просят AI нарисовать пеликана на велосипеде или написать рассказ с ограничениями. Это помогает понять, какая модель лучше подходит именно для ваших задач, а не просто имеет высокие цифры в отчётах.

0 44
И исследования ·28 июл 2025

Горькая правда: почему AI не обязан понимать бардак в вашей компании

Исследователи AI обнаружили «Горький урок»: вместо того чтобы вручную кодировать человеческое понимание проблем, эффективнее просто дать AI больше вычислительных мощностей — и он сам найдёт решение. Это меняет подход к внедрению AI в организациях: возможно, не нужно разбираться с хаосом процессов — достаточно дать агентам больше автономии и данных.

0 85
М модели ·29 сен 2025

ИИ начал выполнять реальную работу экспертов — и почти догнал людей

OpenAI протестировала новые модели на задачах, которые занимают у экспертов с 14-летним опытом 4–7 часов. ИИ почти сравнялся с людьми, проигрывая в основном из-за форматирования, а не из-за ошибок по сути. Claude Sonnet 4.5 самостоятельно воспроизвёл результаты сложного экономического исследования — задача, которая у человека заняла бы часы и могла бы решить кризис воспроизводимости в науке.

0 35
Б безопасность ·11 апр 2025

Как научить AI игнорировать вредные команды: StruQ и SecAlign против prompt injection

Исследователи из UC Berkeley представили два метода защиты языковых моделей от prompt injection — атак, когда вредоносные инструкции прячутся в пользовательских данных. StruQ и SecAlign дообучают модель различать настоящие команды и подделки, снижая успешность атак с 45% до 8% без потери качества работы.

0 104
И исследования ·7 июл 2025

AI не повредит вам мозг, если использовать его правильно

Многие боятся, что AI сделает нас глупее, но исследования показывают: всё зависит от того, как его применять. Если просто копировать ответы ChatGPT при выполнении домашки — вы действительно хуже учитесь и запоминаете. Но если использовать AI как тьютора с правильными промптами и под руководством учителя — результаты обучения растут в разы.

0 58
И исследования ·9 сен 2024

Чего не хватает LLM-чатботам: чувства цели

Современные LLM-чатботы оцениваются по разовым бенчмаркам (MMLU, HumanEval), но реальное взаимодействие требует целенаправленного многоходового диалога. Текущие метрики не измеряют способность моделей вести продуктивную беседу с конкретной целью — будь то планирование путешествия, отладка кода или персональная ассистентская работа. Для настоящего человеко-AI сотрудничества нужны новые подходы к обучению и оценке диалоговых систем.

0 134
И исследования ·4 июн 2025

Почему мультимодальность не приведёт к AGI

Автор критикует популярную идею, что склеивание разных модальностей (текст, изображения, звук) в одну большую модель приведёт к сильному ИИ. Главный тезис: настоящий AGI должен понимать физический мир и уметь в нём действовать — завязывать узлы, ремонтировать машины, готовить еду. LLM же учатся не модели мира, а набору эвристик для предсказания токенов, что даёт лишь поверхностное понимание реальности.

0 32
И исследования ·3 авг 2024

Нам нужны позитивные сценарии будущего с ИИ, основанные на благополучии людей

Авторы из The Gradient предлагают новый подход к разработке ИИ: вместо абстрактных рассуждений о «полезности» — опираться на конкретные факторы человеческого благополучия (meaningful work, отношения, рост). Их тезис: ИИ уже участвует в ухудшении показателей wellbeing (одиночество, недоверие к институтам), но технически возможно развернуть его в обратную сторону — если создать конкретные позитивные сценарии будущего и встроить понимание wellbeing в фундаментальные модели.

0 90