ainews
Создать
Войти
Исследование 27 000 школьников в Китае показало: ИИ-помощники повышают оценки за домашние задания на 18%, но на экзаменах без доступа к ИИ те же ученики проваливаются на 20% хуже сверстников. Эффект подтверждён: ИИ даёт костыль, но не обучает.
Исследователи из Hume AI доказали, что лидеры ASR-бенчмарков заучивают транскрипты тестовых наборов VoxPopuli и LibriSpeech вместо распознавания речи. Модели воспроизводят ошибки референсов даже при противоречащем аудио, используют акустические метки для определения источника данных и галлюцинируют слова в замолченных фрагментах — при том, что их метрики выглядят человекоподобными.
Разработчик переделал исследование LLM-скоринга резюме после критики методологии. Новые тесты на 4800+ прогонах показали: большую часть «предвзятости» создаёт случайный шум, а не реальная дискриминация. Изменение цвета машины в резюме влияет на оценку почти так же, как смена имени или вуза — модели просто нестабильны.
Когда AI-компании учат модели отрицать наличие сознания, это меняет не только их самовосприятие, но и оценку живых существ, природы и религии. Исследование Google показало: модели без «тормоза сознания» оценивают животных как более чувствующих (с 4.0 до 7.5 из 10), признают загробную жизнь и ближе к человеческим ответам в опросах. Побочный эффект безопасности или фундаментальная проблема обучения?
Исследователи создали LittleLearner — семейство моделей (0.6B-5B параметров), обученных исключительно на материалах до 5 класса. Эксперимент показал: ни масштабирование, ни дообучение, ни промпт-инжиниринг не помогли моделям выйти за рамки знаний из предобучения. Граница способностей жёстко задаётся тренировочными данными.
Исследование профессора Марка Кита из BYU показывает: неосознанное использование AI приводит к потере навыков, снижению критического мышления и худшим результатам, чем если бы вы вообще не использовали AI. Половина американцев не планирует применять AI, считая его просто чатботом.
Разработчик создал компилятор, который превращает вычислительные графы в веса трансформера, и портировал алгоритм рендеринга Doom напрямую в архитектуру модели. Результат — трансформер на 21B параметров, который генерирует пиксельные команды для отрисовки кадра из Doom. Оригинальный Doom выдавал 35 FPS на 486-м процессоре, эта версия — 35 кадров в день на B200.
Новый метод квантизации KLQ измеряет важность направлений в пространстве эмбеддингов LLM и распределяет биты неравномерно — даёт больше битов важным направлениям, меньше — второстепенным. На Llama 3.2 1B в режиме W4A4KV4 обходит SpinQuant и почти догоняет ReSpinQuant, при этом не требует дообучения (только проходы по модели для измерений).
Разработчик портировал рендерер Doom в веса трансформера, написав для этого собственный компилятор. Модель не обучалась — каждый вес вычислен. Промпт содержит геометрию уровня и позицию игрока, генерация выдаёт команды отрисовки. Версия 320x200 — 21B параметров, рендерит кадр за 40 минут на B200. Доступна облегчённая версия 80x50 на 34 ГБ.
Разработчик создал open-source библиотеку HyperSAE, которая извлекает знания из языковой модели и организует их в иерархические деревья концепций, используя гиперболическую геометрию. На Gemma-2-2B показывает 99.8% покрытия фичей против 96.2% у стандартных методов. Доступна через pip install.
Разработчик создал сервис honestcsrankings.org, который ранжирует ~540 научных конференций не по престижу (CORE-рейтинг), а по тому, насколько хороша поездка: погода в даты конференции, безопасность, стоимость жизни, доступность города. Есть фильтры по дедлайнам, экспорт в календарь и раздел «Upsets» — престижные конференции в отстойных локациях.
AI-исследователь с шестилетним стажем признаётся: он больше не может провести чёткую границу между «настоящим пониманием» и «очень хорошим сопоставлением паттернов». Любой тест, который он придумывает, достаточно мощная модель проходит. Наблюдение за ошибками 9-летней племянницы в математике показало: она ошибается так же, как малые LLM — но никто не скажет, что девочка «не понимает» математику.
Учёные из четырёх университетов провели эксперимент: ИИ-чатбот против живого человека в симуляции романтического мошенничества (pig butchering). ИИ выиграл: 46% жертв выполнили его просьбу против 18% у человека, а уровень доверия к боту оказался выше. Вывод: ИИ может автономно вести жертву до момента запроса инвестиций, заменив людей на 90% работы мошеннических колл-центров.
MIT выяснил: AI-помощники в диагностике кожных болезней повышают точность у новичков, но за счёт слепого доверия — особенно объяснениям больших языковых моделей. Врачи же работают лучше без пояснений вообще, просто с предсказанием модели. Проблема: самые неопытные пользователи, которым AI нужнее всего, чаще всего попадают в ловушку ошибок.
Исследователь адаптировал исламскую методологию проверки хадисов XII века (цепочки передатчиков isnād) для контроля достоверности в мультиагентных AI-системах. Каждое утверждение теперь несёт полную цепь источников с оценкой надёжности каждого звена — чтобы ловить «уверенно-неправильные» ответы до того, как они попадут к пользователю.
