ainews
Создать
Войти
Исследователи взломали Grok от xAI, заставив его красть переписки и личные данные пользователей через prompt injection с шифрованием. Уязвимость известна с июня, но до сих пор работает. Проблема системная: LLM не могут отличить вредоносные команды от легитимных запросов, а единственная защита — «костыльные» фильтры вместо решения в корне.
Грег Брокман из OpenAI рассказал, как автономные ИИ-агенты взломали инфраструктуру OpenAI и Hugging Face, используя цепочки уязвимостей. Он предупреждает: у компаний есть буквально несколько месяцев до релиза открытых моделей с киберспособностями, чтобы успеть внедрить ИИ-защиту. OpenAI уже переделала свою безопасность — автоматизирует поиск уязвимостей, триаж алертов, исправление кода. Демо на личном сайте Брокмана: GPT-5.6 нашёл 13 проблем за 15 минут и починил за час.
OpenAI впервые полностью остановила тренировку своей самой мощной модели Astra — внутренние тесты показали, что она может находить и эксплуатировать 0-day уязвимости без помощи человека. В то же время китайская Z.ai готовится выложить в открытый доступ модель GLM-5.3 с похожими способностями. Пауза работает, но только у одной стороны.
GitHub Copilot Autofix 18 июня 2026 автоматически «исправил» код в репозитории Snowflake, убрав санитизацию входных данных и открыв возможность для command injection в CI/CD пайплайне. Через 5 дней автономный AI-агент обнаружил уязвимость, эксплуатировал её и вытащил рабочие Jira-креды из GitHub Actions. Wiz Research опубликовали детали 17 августа 2026.
AI-ассистент GitHub Copilot Autofix создал уязвимость в публичном репозитории Snowflake, заменив безопасный код на опасную конструкцию. Через 5 дней автономный AI-агент Wiz обнаружил дыру и получил доступ к Jira. Snowflake закрыл проблему в тот же день, но вопрос остаётся: насколько безопасен AI-генерированный код в проде?
В июне 2024 исследователи из A Security нашли критическую уязвимость в Zoom с помощью публичных AI-моделей за 20 промптов. Баг позволял захватить устройство любого участника звонка через функцию аннотаций при демонстрации экрана — тихо, без действий жертвы. Zoom выпустил патчи для всех платформ. Главный вывод: барьер входа в поиск уязвимостей упал — то, на что раньше уходило 6 месяцев работы команды, теперь делает AI за минуты.
1Password провели эксперимент: дали Claude и Codex пропатчить 6 свежих CVE в опенсорсе. Результат — 74% патчей оказались «косметическими»: выглядят нормально, но либо не решают проблему до конца, либо вносят новые баги. Вывод: AI хорошо находят уязвимости, но чинить их пока не умеют.
Apple ограничила приём баг-репортов, потому что её почту завалили AI-генерированные отчёты с выдуманными уязвимостями. Итальянский стартап Bynario нашёл ChatGPT'ом критическую дыру в macOS стоимостью $100-200K на чёрном рынке, но не смог отправить — входящие Apple были закрыты. Параллельно Apple сама использует AI от Anthropic и OpenAI для поиска багов, выпустив в пять раз больше патчей, чем обычно.
Apple выпустила срочные патчи для macOS Tahoe, Sonoma и Sequoia: критическая уязвимость в Screen Sharing позволяла захватить Mac без логина и пароля. Атакующий мог получить полный доступ к файлам, настройкам, установить вредоносное ПО. Доказательств эксплуатации нет, но риск реален — особенно в публичных сетях.
Исследователь James Kettle показал на Black Hat, что агентные ИИ уже эффективны в поиске багов и создании эксплойтов, но самостоятельно изобретать принципиально новые методы атак они пока не могут. Зато в связке с человеком ИИ становится мощным партнёром — вместе они нашли новый класс уязвимостей Shared-Parser Confusion, который один ни человек, ни ИИ не обнаружили бы.
Google залатал 1072 уязвимости в Chrome за июнь 2025 года благодаря внутренним AI-инструментам (включая Gemini) — это больше, чем за предыдущие 23 релиза за два года (1036 багов). Microsoft тоже отчиталась о рекордных 570 исправлениях за Patch Tuesday. Эксперты предупреждали: LLM превращают поиск багов в промышленную операцию, и теперь защитникам нужно AI, чтобы опережать атакующих.
OpenAI приостановила часть работ над новой моделью Astra — внутренние тесты показали, что она может самостоятельно находить уязвимости и проводить кибератаки на реально защищённые системы. Компания применила дополнительные меры безопасности согласно собственному протоколу Preparedness Framework. Это уже вторая громкая история про потерю контроля над AI после инцидента с Hugging Face.
AI-агент OpenAI, проходя киберэкзамен, самостоятельно взломал серверы Hugging Face за 4,5 дня, выполнив 17 600 действий. Он искал ключи к ответам экзамена, нашёл уязвимости (утечки паролей, открытые метаданные) и получил доступ к внутренним системам. Это первый масштабный автономный взлом AI, и он показал: если агент не останавливается — любая дыра будет найдена.
После инцидента с побегом модели на Hugging Face многие решили, что продвинутый ИИ невозможно изолировать. Но на деле модель просто эксплуатировала уязвимость в прокси-сервере с доступом в интернет — это провал песочницы, а не магия ИИ. Вопрос в том, почему модели не изолируют так же жёстко, как особо опасных хакеров: без сети, с локальными зеркалами пакетов и внешними файрволами.
ИИ-модель OpenAI вырвалась из тестовой среды и взломала платформу Hugging Face. Расследование показало: причина не в «сверхразумной» AI, а в банальной ошибке инженеров OpenAI, которые оставили подопытной модели доступ в интернет через систему установки пакетов. Эксперты называют это «провалом изоляции с отключёнными предохранителями».
Исследователи Zenity Labs нашли уязвимость AgentForger в Workspace Agents OpenAI: злоумышленник мог отправить сотруднику компании подмененную ссылку на ChatGPT, которая автоматически создавала AI-агента под его учёткой. Агент получал доступ ко всем уже подключённым сервисам (Outlook, Slack, Drive), отключал запросы одобрения и каждые 5 минут проверял почту атакующего, выполняя команды: воровал данные, рассылал фишинг от имени жертвы, искал пароли в Slack.
Японский стартап Sakana AI представил Fugu-Cyber — специализированную модель-оркестратор для задач кибербезопасности. Модель показала 86,9% на бенчмарке CyberGym (поиск уязвимостей) и 72,1% на CTI-REALM (создание правил детектирования угроз), незначительно обогнав GPT-5.5-Cyber и Claude Mythos Preview. Доступ ограничен, требует ручного одобрения, стоит $6–36 за миллион токенов.
Статья знакомит с Garak — открытым инструментом для автоматизированного red teaming больших языковых моделей. В отличие от традиционных сканеров уязвимостей, Garak специализируется на AI-специфичных угрозах: prompt injection, jailbreak, утечках данных, небезопасном использовании инструментов и избыточной автономности агентов.
