ainews
Создать
Войти
Независимый разработчик выжал из Qwen3.8-27B (27 млрд параметров) 138 токенов в секунду на одной RTX 3090, используя квантизацию W4A16, speculative decoding через DFlash2 и самописный lookup-поиск в истории токенов. Это в 3-4 раза быстрее стандартного инференса, при сохранении точности на уровне оригинальной модели.
Google открыл исходники HEIR — компилятора, который превращает обычные AI-модели в работающие на зашифрованных данных. Технология гомоморфного шифрования позволяет серверу обрабатывать данные, не видя их содержимого — финтех и медицина могут применять AI без утечек. Производительность пока на CPU, но Google уже партнёрится с производителями железных ускорителей.
Исследователь создал HyperSAE — библиотеку для PyTorch, которая применяет гиперболическую геометрию Пуанкаре к разреженным автоэнкодерам для интерпретации языковых моделей. На Gemma-2-2B достигнуто снижение MSE на 9,8%, мёртвых нейронов стало всего 0,2% вместо 3,8%. Инференс остаётся евклидовым — никаких накладных расходов.
Энтузиаст заменил 32-миллиардный текстовый энкодер MiniMax H3 (занимает 15.7 GB) на компактный Qwen3-VL 4B/8B с обучаемым проектором. Результат: видео и голос почти неотличимы от оригинала, но требуется в разы меньше памяти и быстрее генерация.
Разработчик с нуля обучил языковую модель на 1,1 млрд параметров на 20 млрд токенов из fineweb-edu, потратив около $200 через vast.ai. Использовал архитектуру на базе Gemma3, дообучил через LoRA на openhermes для чата. Качество уступает промышленным моделям, но проект показал реальную стоимость и процесс создания собственной LLM.
Red Hat с NVIDIA, IBM и десятком партнёров запустили asago — open-source проект, который превращает текст политики AI-безопасности в рабочие конфиги для Kubernetes и облака. Цель: сократить время от документа до реальных ограничений в проде с месяцев до дней, автоматизируя маппинг рисков, тесты, гардрейлы и аудит-трейл. Пока в стадии формирования, без production-кейсов.
Genspark выложил под Apache 2.0 полноценный офисный пакет с AI — текстовым редактором, таблицами, презентациями и PDF-редактором. Главный фокус: сохранение оригинальной разметки .docx/.xlsx/.pptx при любых правках через AI, плюс жёсткая изоляция AI-кода в Electron. Бесплатно, без рекламы, но AI требует аккаунт Genspark и их кредиты.
Пять команд Rust-проекта утвердили политику использования LLM при вкладе в rust-lang/rust. Это не запрет, а свод правил: как можно и нельзя использовать AI при коммитах. Цель — защитить ревьюеров от потока полированного, но бессмысленного кода, когда автор не понимает, что написал. Политика строгая: нужно раскрывать использование LLM, запрещено копипастить ответы AI в обсуждения, а автономные боты — вообще не допускаются.
Meta открыла Muse Glimmer (30B параметров, Apache 2.0) — модель для запуска AI-агентов прямо на потребительских GPU, без облака. Обходит конкурентов в 5 из 8 агентских бенчмарков, работает с кодом, скриншотами и приватными данными локально. Цель: агенты с доступом к личным файлам, календарям, сообщениям — всё на устройстве.
Энтузиаст создал encoder-only трансформер на основе BERT, который прогнозирует уровень глюкозы у диабетиков на 2 часа вперёд, используя историю сахара, углеводов и инсулина. Модель обучалась на симуляторах и реальных датасетах (OhioT1DM, AZT1D, ShanghaiT1DM), крупнейшая версия — 17 млн параметров. Код и веса выложены под MIT-лицензией, есть версия для смартфона, работающая на личных данных автора.
Разработчик сжал файнтюн Qwen3.6-27B до 10.4 ГБ (3.33 бита на вес) методом покомпонентной квантизации с KLD-контролем. Главное: на этот раз проверил не отдельные слои, а собранную модель целиком — и нашёл реальную деградацию, которую пришлось чинить вручную. Модуль внимания сжимается почти даром, основная цена качества — в FFN.
Google DeepMind выложила в открытый доступ WeatherNext — AI-модель для прогноза тропических циклонов с горизонтом до 15 дней. Модель предсказывает траекторию, интенсивность, размер и формирование ураганов, превосходя или не уступая традиционным метеослужбам. Код и веса доступны на GitHub для исследователей и метеоагентств.
Reflex выпустила XY — библиотеку для визуализации данных на Python с движком на Rust. Рендерит интерактивные графики с 10 млн точек в 34 раза быстрее Plotly, экспортирует в HTML весом 258 КБ вместо 259 МБ. Альфа-версия (0.0.1), но уже доступна через pip.
Supabase открыл исходники Evals — фреймворк для тестирования AI-агентов (Claude Code, Codex, OpenCode) на реальных задачах: создание схем БД, отладка Edge-функций, исправление RLS-политик. Запускается локально, результаты на публичном лидерборде. Основа — реальные тикеты поддержки и баги, проверка через детерминированные тесты + LLM-as-a-judge.
Cursor Research выложил в открытый доступ MoK — мегаядро для обучения mixture-of-experts моделей на стойках GB300 NVL72. Вместо разделения коммуникации и вычислений всё слито в один детерминированный kernel, что даёт до 2.37x прирост скорости против лучших публичных решений. Уже работает на десятках тысяч GPU в продакшене при обучении Composer.
Council — CLI-инструмент, который отправляет вопрос сразу нескольким AI-моделям, затем каждая модель анонимно критикует ответы других. Версия 1.2 добавила «гостевое место»: можно вставить ответ из любого источника (ChatGPT, коллега, что угодно), и он попадёт на слепое рецензирование наравне с остальными. Работает с облачными и локальными моделями, без регистрации и телеметрии.
Tencent выложил AngelSpec — torch-фреймворк для обучения черновых моделей в спекулятивной декодировке. Вместо одной универсальной модели обучает две: MTP для диалогов, DFly для кода и математики. На Qwen3-8B и Hy3-A21B прирост acceptance length до 60%, особенно на код и формальные рассуждения.
Французская Mistral AI резко набирает вес на фоне геополитики и ограничений США. Пока OpenAI и Anthropic закрывают свои модели и попадают в скандалы, Mistral делает ставку на open-weight, европейский суверенитет и кастомизацию под корпоратов — и собирает миллиарды.
Y Combinator выложили в open source QM (quartermaster) — свою внутреннюю платформу для AI-агентов. Работает в Slack и браузере, каждый сотрудник получает изолированное рабочее пространство с памятью, файлами и доступами. Поддерживает разные модели (Claude, OpenAI и др.), три уровня безопасности, MIT-лицензия. YC сами используют её в бухгалтерии, юриспруденции и разработке, но предупреждают: проект сырой, с багами.
Статья объясняет разницу между «open weight» и «open source» моделями. Когда компания публикует открытые веса, вы получаете готовый файл с миллиардами настроенных параметров модели, которые можно скачать и запускать локально, но не рецепт её создания — обучающие данные и точный процесс обучения обычно остаются закрытыми.
Разработчик создал форк llama.cpp, который решает проблему зацикливания и деградации рассуждений у небольших локальных моделей (типа Qwen3.6-27B). Система автоматически инжектирует промпты вроде «у меня бюджет в X токенов» в процесс генерации, напоминая модели о лимитах и направляя к выводам. В тестах подход показал заметное улучшение качества reasoning.
Разработчик создал решение для контроля позы и глубины в FLUX.2 (включая klein 4B/9B) без отдельного controlnet — через встроенный механизм структурных карт. Работает на CPU, не требует VRAM и дополнительных весов, но контроль менее жёсткий чем у обученного ControlNet.
Энтузиаст попытался наладить полностью открытый локальный пайплайн для превращения 2D-изображения в готовую к печати 3D-модель. TRELLIS визуально справился отлично, но выдал геометрически непригодный STL с сотнями дефектов. Итог: модель пришлось пересобирать вручную в Blender примитивами и булевыми операциями — AI пока не заменяет инженера.
Команда Reactor выложила полный код Dreamer 4 — системы, которая строит виртуальную модель игрового мира и умеет генерировать кадры игры, предсказывая физику и действия. Вместо закрытого исследования Google — рабочий пайплайн на JAX с конфигами, демо в браузере и честным разбором проблем обучения.
NVIDIA выпустила в open source первый GPU-ускоренный фреймворк Medical Physics Simulation для разработчиков медицинских роботов. Он позволяет симулировать взаимодействие инструментов с тканями, генерировать редкие сценарии и тренировать робополитики до дорогого железного тестирования. Бенчмарки показывают ускорение обучения с 5+ часов до 2 минут благодаря 8192 параллельным средам.
Каждый раз, когда выходит сильная открытая AI-модель, её обвиняют в «дистилляции» из GPT-4 или Claude. Автор разбирает, почему это миф: настоящая дистилляция требует доступа к внутренним вероятностям модели (logits), которых нет в публичных API. То, что называют «дистилляцией», — просто обучение на синтетических данных, что делают все лаборатории, включая OpenAI и Anthropic. Обвинения особенно часто летят в сторону китайских лабораторий, хотя их модели показывают реальные архитектурные улучшения.
Разработчик создал инструмент для Krea2, позволяющий применять разные промпты и LoRA к отдельным областям изображения без взаимного влияния. Система работает через управление вниманием между токенами текста и изображения в заданных регионах, что решает проблему «утечки» стилей и персонажей при использовании нескольких LoRA одновременно.
Пользователь r/LocalLLaMA предлагает обязательную маркировку постов об «открытых» моделях, веса которых фактически недоступны для скачивания — особенно после случаев с Meta, обещавшей релиз, но не выпустившей веса. Цель: не кликать на анонсы моделей, которые нельзя запустить локально прямо сейчас.
Разработчик создал Aozora — бесплатный GUI-тренер для файнтюнинга SDXL и Anima на потребительских GPU с 12 ГБ видеопамяти. Инструмент тренирует 80-90% полной модели SDXL в пределах 11.8 ГБ VRAM (~1.55 сек/итерация) и 100% Anima в разрешении 1152×1152 (~11.4 ГБ, 2.67 сек/итерация). Код написан с нуля, а не обёртка над существующими решениями.
Разработчик форкнул llama.cpp, чтобы запускать огромные MoE-модели (до 480B параметров) на обычном MacBook, подгружая веса экспертов с SSD по требованию вместо загрузки всей модели в RAM. Qwen 35B выдаёт ~13-19 tok/s, даже 118B-модель работает на устройстве с 36 ГБ памяти. Приложение доступно как готовый .dmg для macOS, код открыт (MIT), все бенчмарки — включая провалившиеся эксперименты — опубликованы.
Moonshot AI выпустила открытую модель Kimi K3 с 2,8 трлн параметров — крупнейшую в истории. Однако из-за огромного размера (1,4 ТБ весов даже в 4-битном квантовании) её практически невозможно запустить на собственном железе. Сама компания приостановила подписки из-за нехватки GPU для обслуживания спроса.
Nvidia представила открытую платформу Medical Physics Simulation для обучения хирургических роботов через физические симуляции вместо долгого накопления клинического опыта. Система комбинирует классическую физику и генеративный AI, чтобы воссоздать тысячи редких медицинских сценариев параллельно. Компании вроде CMR Surgical и Johnson & Johnson уже тестируют подход, но до реального применения на пациентах ещё далеко.
Лян Вэньфэн провёл четырёхчасовую встречу с инвесторами DeepSeek, где объяснил: компания не гонится за ростом пользователей, не будет закрывать код и не планирует становиться «следующим ByteDance». Единственная цель — AGI. Коммерциализация, продукты, мультимодальность — всё вторично. Open source — сознательная жертва ради сплочённости команды и увеличения шансов на успех. Основное отставание от США — в ресурсах, а не в идеях.
