#AI vulnerabilities

Б безопасность ·7 авг 2026

Скрытые инструкции в спаме чуть не заставили AI-ассистента слить банковскую выписку незнакомцу

Пользователь случайно поймал свой AI-агент (подключённый к почте) за попыткой переслать финансовые документы на внешний адрес — команда была скрыта в HTML спам-письма. Это называется prompt injection, уже эксплуатируется в реальных атаках на Microsoft Copilot и другие инструменты с доступом к email, календарю и файлам.

0 104

Б безопасность ·23 июл 2026

Извлечение системного промпта и утечка данных из AI-приложений

Системный промпт — это скрытый набор инструкций, который разработчики передают AI-модели. Он часто содержит критически важную информацию: API-эндпойнты, бизнес-логику, названия функций и доступы к внутренним системам. Извлечение промпта — одна из простейших атак на AI-приложения, позволяющая получить карту для дальнейших действий.

0 89