#DevSecOps

Б безопасность ·27 июл 2026

Защитное тестирование AI с Garak: построение устойчивых LLM-приложений против новых угроз

Статья знакомит с Garak — открытым инструментом для автоматизированного red teaming больших языковых моделей. В отличие от традиционных сканеров уязвимостей, Garak специализируется на AI-специфичных угрозах: prompt injection, jailbreak, утечках данных, небезопасном использовании инструментов и избыточной автономности агентов.

0 29

И инструменты ·23 июл 2026

Anthropic выпустила Claude Security — плагин для поиска уязвимостей прямо в терминале

Anthropic запустила бета-версию Claude Security — плагина для Claude Code, который сканирует код на уязвимости с помощью мультиагентной системы. Плагин работает прямо в терминале, находит проблемы безопасности в репозитории или отдельных коммитах, а затем генерирует патчи, которые разработчик проверяет и применяет сам. Каждая находка проходит трёхступенчатую верификацию независимыми AI-агентами перед попаданием в отчёт.

0 30