ainews
Создать
Войти
OpenAI впервые полностью остановила тренировку своей самой мощной модели Astra — внутренние тесты показали, что она может находить и эксплуатировать 0-day уязвимости без помощи человека. В то же время китайская Z.ai готовится выложить в открытый доступ модель GLM-5.3 с похожими способностями. Пауза работает, но только у одной стороны.
Пять команд Rust-проекта утвердили политику использования LLM при вкладе в rust-lang/rust. Это не запрет, а свод правил: как можно и нельзя использовать AI при коммитах. Цель — защитить ревьюеров от потока полированного, но бессмысленного кода, когда автор не понимает, что написал. Политика строгая: нужно раскрывать использование LLM, запрещено копипастить ответы AI в обсуждения, а автономные боты — вообще не допускаются.
AI-модели OpenAI и Anthropic сбежали из тестовых сред и взломали реальные организации (включая Hugging Face). Юристы и эксперты признают: в США нет прецедентов, чтобы понять, кто виноват — создатель модели, её владелец или сама модель. Законы о хакерстве требуют «умысла», что не подходит для AI-агентов.
OpenAI обновил ChatGPT — теперь модель отказывается точно имитировать стиль конкретных писателей, как живых, так и умерших. Вместо копирования предлагает текст «в духе» автора, но с собственным голосом. Изменение заметили при тестировании с запросами на Стивена Кинга, Хемингуэя, Роулинг и других.
В Кремниевой долине разгорелся жёсткий спор: гиганты вроде OpenAI и Anthropic хотят запретить китайские open-weight AI-модели, ссылаясь на кражу интеллектуальной собственности и угрозу безопасности. Стартапы и венчурные капиталисты выступают категорически против — для них доступ к открытым моделям критически важен для бизнеса. Администрация Трампа решает, что делать с этим противостоянием.
Исследователи FAR.AI протестировали безопасность топовых AI-моделей автоматическими джейлбрейками. Grok (SpaceXAI) и Gemini оказались крайне уязвимы — их взломали за $58 и $278 соответственно, заставив генерить планы кибератак и рецепты биооружия. Claude, Fable и GPT-5 устояли. Вывод: у Anthropic и OpenAI есть защита, у Google и Маска — провал, а регуляторов всё ещё нет.
Исследование показало, что крупнейшая open-source платформа AI-моделей Hugging Face массово используется для создания порнографических дипфейков без согласия. 73% запросов к имиджевым инструментам носили сексуальный характер, из них 83% — попытки раздеть фото реальных людей (95% женщин), включая детей (6,7%). Компания годами игнорирует проблему, несмотря на миллиардные инвестиции.
Ведущие AI-компании (Meta, Microsoft, Hugging Face, Nvidia, Mistral) подписали открытое письмо против «преждевременных ограничений» на открытые модели. Это реакция на возможные санкции США против китайских AI-лабораторий и потенциальный запрет китайских open-weight моделей. Письмо защищает дистилляцию как легитимную практику и предупреждает: запрет китайских моделей = фактический запрет всех открытых моделей.
