ainews
Создать
Войти
Google выпустил WeatherNext 2 — AI-модель погоды, которая предсказывает траекторию и силу тропических циклонов на 24 часа раньше существующих систем. Публикация в Nature, код открыт. Google называет это прорывом, эквивалентным десятилетию прогресса классической метеорологии.
Google DeepMind выпустил WeatherNext — AI-модель, которая прогнозирует ураганы с точностью, на сутки опережающей традиционные методы. В октябре 2024 модель за 5 дней предсказала ураган Melissa (категория 5), когда он был еще слабой бурей. Главное: модель работает на более грубых данных, чем классические метеомодели, но выдает 1000 сценариев вместо 50, что невозможно на обычных суперкомпьютерах. DeepMind открыл код — теперь исследователи могут копаться, как AI находит паттерны, которые физики раньше не замечали.
Эксперимент на бинарной сети с 131k нейронов показал: при деградации памяти плотность синапсов НЕ падает (80-82% стабильно), хотя recall ухудшается в 3.7 раза. Проблема не в перегрузке весов, а в дрейфе идентичности — сеть начинает активировать конкурирующие паттерны вместо целевых. Классическая теория «интерференции весов» не объясняет реальное поведение.
SupraLabs выпустила экспериментальную языковую модель на 500К параметров без архитектуры трансформера: вместо attention используется разреженный рекуррентный граф нейронов с мембранным потенциалом, идея взята из нервной системы червя C. elegans. Модель токен за токеном обновляет состояние нейронов, не храня KV-кэш, и работает автогрессивно. Это научный эксперимент, не претендующий на качество больших моделей.
Рецензент NeurIPS описал системную проблему: из 12 проверенных статей только одна содержала полный код, а в трёх из пяти частично опубликованных нашлись критические баги, которые обесценивали результаты. Предложение: автоматически отклонять работы без воспроизводимого кода.
Исследователи из Нанкинского университета предложили метод EdgeRazor, который сжимает большие языковые модели до экстремально низкой точности (1.88 бита на параметр) через дистилляцию с управлением энтропией. Работает с обычными форматами инференса, но требует вычислительных мощностей для создания студенческой модели. Открыт код и несколько примеров моделей.
