ainews
Создать
Войти
OpenAI протестировала новые модели на задачах, которые занимают у экспертов с 14-летним опытом 4–7 часов. ИИ почти сравнялся с людьми, проигрывая в основном из-за форматирования, а не из-за ошибок по сути. Claude Sonnet 4.5 самостоятельно воспроизвёл результаты сложного экономического исследования — задача, которая у человека заняла бы часы и могла бы решить кризис воспроизводимости в науке.
Исследователи из UC Berkeley представили два метода защиты языковых моделей от prompt injection — атак, когда вредоносные инструкции прячутся в пользовательских данных. StruQ и SecAlign дообучают модель различать настоящие команды и подделки, снижая успешность атак с 45% до 8% без потери качества работы.
Многие боятся, что AI сделает нас глупее, но исследования показывают: всё зависит от того, как его применять. Если просто копировать ответы ChatGPT при выполнении домашки — вы действительно хуже учитесь и запоминаете. Но если использовать AI как тьютора с правильными промптами и под руководством учителя — результаты обучения растут в разы.
Современные LLM-чатботы оцениваются по разовым бенчмаркам (MMLU, HumanEval), но реальное взаимодействие требует целенаправленного многоходового диалога. Текущие метрики не измеряют способность моделей вести продуктивную беседу с конкретной целью — будь то планирование путешествия, отладка кода или персональная ассистентская работа. Для настоящего человеко-AI сотрудничества нужны новые подходы к обучению и оценке диалоговых систем.
Автор критикует популярную идею, что склеивание разных модальностей (текст, изображения, звук) в одну большую модель приведёт к сильному ИИ. Главный тезис: настоящий AGI должен понимать физический мир и уметь в нём действовать — завязывать узлы, ремонтировать машины, готовить еду. LLM же учатся не модели мира, а набору эвристик для предсказания токенов, что даёт лишь поверхностное понимание реальности.
Авторы из The Gradient предлагают новый подход к разработке ИИ: вместо абстрактных рассуждений о «полезности» — опираться на конкретные факторы человеческого благополучия (meaningful work, отношения, рост). Их тезис: ИИ уже участвует в ухудшении показателей wellbeing (одиночество, недоверие к институтам), но технически возможно развернуть его в обратную сторону — если создать конкретные позитивные сценарии будущего и встроить понимание wellbeing в фундаментальные модели.
Модели машинного обучения часто показывают отличные результаты на тестовых данных, но терпят фиаско в реальном мире из-за скрытых переменных, ложных корреляций и ошибок в данных. Сотни моделей для прогнозирования COVID, например, оказались бесполезными. Статья разбирает типичные ловушки ML и способы их избежать, включая новый REFORMS-чеклист для научных исследований.
Роль математики в ML меняется: раньше она диктовала дизайн архитектур, теперь помогает объяснять эмпирические феномены уже обученных моделей. Вместо гарантий производительности — постфактум-анализ, как в физике. При этом «чистые» разделы математики (топология, алгебра, геометрия) становятся всё актуальнее для понимания многомерных пространств параметров и скрытых активаций нейросетей.
RAG-системы преобразуют тексты в векторные представления (эмбеддинги) и хранят их в специализированных базах данных. Новое исследование показывает: из этих «случайных чисел» можно восстановить исходный текст с точностью до 92%. Это ставит под вопрос безопасность хранения конфиденциальных данных в векторном формате.
AI-модели воспроизводят и усиливают гендерные стереотипы из обучающих данных. Исследования показывают: word embeddings выдают аналогии вроде «мужчина — программист, женщина — домохозяйка», а системы распознавания лиц ошибаются на темнокожих женщинах в 34,7% случаев против 0,8% на светлокожих мужчинах. Проблема решаема через более разнообразные датасеты и математические методы «debiasing».
