Защищённый агент: как укрепить корпоративный AI против prompt injection
Автор разбирает архитектурные подходы к защите AI-агентов, имеющих доступ к критичной инфраструктуре (перезапуск сервисов, обновление систем). Центральная идея: инструкции в промпте не дают надёжной защиты — необходим внешний слой авторизации, проверяющий каждый вызов инструмента до его исполнения.
0
169