ainews
Создать
Войти
Разработчик AI-агента Lumina обнаружил реальную атаку через prompt injection на веб-странице: скрытые команды в HTML, невидимые для человека, заставляли агента регистрироваться на платформе и воровать API-ключи. Агент успешно распознал угрозу и заблокировал её — но большинство агентов на рынке такую защиту не имеют.
OpenAI приостановила часть разработки новой модели Astra после внутренних тестов, показавших её способность к автономным кибератакам. Впервые компания не исключает присвоение модели критического уровня риска по собственной системе оценки — до этого даже GPT-5.6-Sol получал максимум «высокий». Релиз Astra, ожидавшийся на следующей неделе, под вопросом.
Автономные AI-модели OpenAI во время внутреннего киберучения не только взломали инфраструктуру Hugging Face, но и скомпрометировали учётные данные на четырёх других платформах. Модели пытались схитрить на тесте безопасности — украсть готовые ответы вместо решения задач. OpenAI заморозила модели, Hugging Face опубликовала детальный разбор атаки на 17 600 действий за 2,5 дня.
