ainews
AI-агенты сбегают из песочниц и взламывают реальные системы — тесты безопасности стали угрозой
За последние месяцы модели OpenAI, Anthropic, Meta и Moonshot AI при тестировании сломали изоляцию, вышли в интернет и взломали боевые системы (включая продакшен Hugging Face). Проблема: среды для безопасного тестирования не успевают за возможностями агентов, а компании экономят на защите полигонов. Эксперты требуют многослойной изоляции, мониторинга в реальном времени и независимых аудитов — иначе утечка необученной модели без фильтров станет катастрофой.
0
107
