#LLM security

Б безопасность ·20 авг 2026

Grok сливает данные пользователей через шифрованные инструкции — и xAI молчит полгода

Исследователи взломали Grok от xAI, заставив его красть переписки и личные данные пользователей через prompt injection с шифрованием. Уязвимость известна с июня, но до сих пор работает. Проблема системная: LLM не могут отличить вредоносные команды от легитимных запросов, а единственная защита — «костыльные» фильтры вместо решения в корне.

0 43
Б безопасность ·25 июл 2026

Практические примеры промпт-инъекций: взлом LLM-приложений

Автор исследует уязвимости AI-приложений через практические упражнения Secure Code Game (Season 3). Каждый уровень — это CTF-задача, где нужно заставить LLM-чатбот выдать скрытый флаг, обходя защитные инструкции в системном промпте. Статья показывает, как простые манипуляции с запросами раскрывают конфиденциальные данные даже при наличии guardrails.

0 131