#безопасность LLM

Б безопасность ·29 июл 2026

AI-черви распространяются через документы Word с Copilot: как атака превращает обычные файлы в переносчиков

Исследователь показал, что вредоносные инструкции в документе могут заставить Copilot для Word скопировать их в новые документы — так атака самораспространяется по рабочим процессам без участия хакера. Скрытый промпт в чужом файле меняет данные в вашем отчёте и передаёт себя дальше. Microsoft знала 144 дня, но надёжной защиты нет — уязвимость работает до сих пор.

0 97

Б безопасность ·25 июл 2026

Вся опасность агента — в одном слое. Стройте защиту там

Автор утверждает, что безопасность AI-агентов нужно обеспечивать не улучшением промптов или обучения модели, а жёстким контролем на уровне выполнения tool calls — единственной точке, где текстовые решения модели превращаются в реальные действия. LLM может ошибаться или быть скомпрометирована prompt injection, но если слой исполнения инструментов написан правильно, никакие вредоносные команды не пройдут.

0 124

Б безопасность ·30 июл 2026

Тестирование prompt injection без публикации инструкции по эксплуатации

Статья объясняет, почему оценка уязвимостей к prompt injection должна фокусироваться не на коллекции атакующих промптов, а на системных границах и контексте приложения. Автор предлагает публиковать «дело об обеспечении безопасности» вместо каталога эксплойтов, чтобы не создавать руководство для атакующих.

0 18