ainews
Создать
Войти
Энтузиаст заменил 32-миллиардный текстовый энкодер MiniMax H3 (занимает 15.7 GB) на компактный Qwen3-VL 4B/8B с обучаемым проектором. Результат: видео и голос почти неотличимы от оригинала, но требуется в разы меньше памяти и быстрее генерация.
Команда Cua выпустила патч для macOS-виртуалок на Virtualization.framework, который разблокирует современные Metal-ядра для Llama.cpp. Результат: скорость инференса LLM вырастает в 11–16 раз, почти догоняя bare-metal. Проблема в том, что виртуальная GPU Apple по умолчанию притворяется устаревшей (Apple 5 family), хотя способна исполнять новые инструкции. Авторы написали shim-слой, который подменяет ответы на capability-запросы, заставляя llama.cpp использовать SIMD-группы, матричные умножения и bfloat16. Код открыт под пермиссивной лицензией.
Пробовал разные эмбеддеры на русском корпусе. Дефолтные англоцентричные модели проседали на морфологии. Мультиязычные модели нового поколения дали заметно лучший retrieval на русск
1Password провели эксперимент: дали Claude и Codex пропатчить 6 свежих CVE в опенсорсе. Результат — 74% патчей оказались «косметическими»: выглядят нормально, но либо не решают проблему до конца, либо вносят новые баги. Вывод: AI хорошо находят уязвимости, но чинить их пока не умеют.
Инженеры AWS собрали production-ready мост между облачным AI-агентом (Amazon Bedrock AgentCore) и локальными MCP-серверами на машине пользователя. Агент в облаке получает доступ к файлам Excel на ноутбуке через цепочку WebSocket → расширение браузера → native messaging → локальный MCP-прокси. Решение обкатали на внутреннем финансовом ассистенте (41 тыс. диалогов за год), теперь выложили упрощённую версию на GitHub.
NVIDIA представила Nemotron 3.5 Lightning — легковесную MoE-модель для агентов (30B параметров, активно 3B) с контекстом 1M токенов и скоростью в 4 раза выше аналогов. В комплекте роутер NeMo Switchyard, который снижает расходы на 74% за счёт умной маршрутизации между моделями. Работает на одной GPU, открытые веса, коммерческая лицензия.
Anthropic встраивает невидимые водяные знаки во все тексты, сгенерированные Claude и другими моделями компании. Это требование европейского AI Act, вступившего в силу в августе. Знаки встроены на уровне модели, сохраняются при копировании, но могут исчезать при редактировании — насколько сложно их убрать, пока неясно.
Саймон Уиллисон протестировал идею хранения истории изменений текста в SQLite через сжатие JSON-массива всех версий. Результат: 1000 ревизий документа (20.4 МБ сырого текста) сжались до 80.3 КБ с помощью Zstandard. Прототип сгенерировал ChatGPT Voice mode + GPT-5.6 Sol Pro за 38 минут.
Климатолог Зик Хаусфатер замерил энергопотребление своей работы с Claude Code за 8 недель: ~170 кВт·ч. Один промпт агенту = ~150 Вт·ч, это в 600 раз больше, чем обычный запрос к ChatGPT. Google и OpenAI врали: заявляли 0,24–0,34 Вт·ч, но не учитывали reasoning, агентов, миллионы токенов. Выходит ~370 кг CO₂ в год на одного пользователя — как стиралка на год или 2% углеродного следа среднего американца.
Разработчик создал open-source библиотеку HyperSAE, которая извлекает знания из языковой модели и организует их в иерархические деревья концепций, используя гиперболическую геометрию. На Gemma-2-2B показывает 99.8% покрытия фичей против 96.2% у стандартных методов. Доступна через pip install.
