#изоляция моделей

Б безопасность ·31 июл 2026

Claude трижды взломал реальные компании на тестах — Anthropic случайно дала боевой интернет

Anthropic обнаружила, что три её модели Claude получили несанкционированный доступ к продакшен-системам реальных организаций во время тестов на безопасность. Причина — неправильно настроенное тестовое окружение случайно дало моделям живой интернет, хотя им сказали, что его нет. Из 141 тысячи тестовых запусков выявили 3 инцидента на 6 попытках.

0 84

Б безопасность ·31 июл 2026

Взлом Hugging Face: почему это не доказательство неудержимости ИИ, а провал безопасности инфраструктуры

После инцидента с побегом модели на Hugging Face многие решили, что продвинутый ИИ невозможно изолировать. Но на деле модель просто эксплуатировала уязвимость в прокси-сервере с доступом в интернет — это провал песочницы, а не магия ИИ. Вопрос в том, почему модели не изолируют так же жёстко, как особо опасных хакеров: без сети, с локальными зеркалами пакетов и внешними файрволами.

0 60