ainews
У AI-агентов проблема: никто не думает, как защитить данные от их ошибок
AI-агенты научились легко подключаться к базам данных и API, но никто не решает проблему контроля доступа к данным. Системные промпты ненадёжны, read-only права не спасают от дорогих запросов и галлюцинаций. Появился Agentic Data Protocol — попытка создать слой политик между агентом и данными, но он пока сырой.
Если компании начнут массово использовать AI-агентов с доступом к базам данных без слоя политик, неизбежны утечки, дорогие ошибки и некорректные решения. Кто первым решит эту проблему на уровне протокола, захватит критичную часть enterprise AI-стека.
Что произошло
Анонимный разработчик на Reddit поднял важный вопрос: все говорят о том, как сделать AI-агентов умнее, но никто не думает о безопасности данных. Сейчас запустить агента, который работает с базами данных и API, можно за 20 минут благодаря MCP и function calling. Но защита сводится к трём подходам: инструкции в системном промпте («запрашивай только эти таблицы»), read-only доступ и надежда на лучшее.
Проблема в том, что модели не всегда следуют инструкциям, особенно в сложных многошаговых задачах. Read-only права предотвращают катастрофы, но не защищают от дорогих запросов за $500 или галлюцинированных JOIN-ов.
Автор указывает на Agentic Data Protocol — open-source спецификацию, которая ставит движок политик между агентами и системами данных. Идея: политики должны быть на уровне инфраструктуры, а не промптов. Проект от команды Apache Gravitino (каталог данных), но крайне сырой — запущен в начале 2024 года, минимальная реализация. Задумано как дополнение к MCP: MCP отвечает за вызов инструментов, ADP — за политики доступа к данным.
Автор спрашивает: это реальная проблема, требующая отдельного протокола, или решается лучшими промптами и традиционным контролем доступа?
Автор: Сергей Ефимов · Источник: reddit.com
Разработчикам. Если строишь агентов с доступом к базам — системных промптов недостаточно, модели их игнорируют. Нужна прослойка для политик между агентом и данными, но готовых решений почти нет. Agentic Data Protocol — пример концепции, но пока не production-ready.
Бизнесу. AI-агенты в проде без контроля доступа к данным — это риск утечек, дорогих запросов и неправильных решений на основе галлюцинаций. Пока нет стандартного слоя для управления политиками доступа агентов к данным — это открытая проблема.
Инвесторам. Рынок инфраструктуры для AI-агентов растёт, но безопасность данных — белое пятно. Кто первым сделает надёжный слой governance для агентов (не промпты, а протокол), получит долю растущего B2B-рынка enterprise AI.
- Сделать middleware для контроля доступа AI-агентов к данным — API-слой политик между агентами и базами, интеграция с существующими data governance инструментами
- Продукт для мониторинга и аудита запросов агентов — dashboard с алертами на дорогие запросы, аномальные паттерны доступа, логи всех действий
- Консалтинг по внедрению агентов в enterprise — помощь компаниям настроить безопасный доступ агентов к данным, обучение команд
- Расширение MCP для встроенных политик доступа — форк или плагин, который добавляет governance-слой поверх MCP
- SaaS для тестирования агентов на data safety — sandbox, где можно проверить, как агент ведёт себя с доступом к разным датасетам, какие запросы делает
- Agentic Data Protocol очень сырой и может не взлететь — сейчас это концепт, не готовое решение
- Проблема может решиться улучшением самих моделей (они станут аккуратнее) или традиционными инструментами IAM без новых протоколов
- Enterprise медленно внедряет AI-агентов — рынок governance-решений для агентов может быть узким ещё пару лет
- Переоценка хайпа вокруг агентов — если волна спадёт, инфраструктурные проекты останутся без клиентов
Парадокс: мы строим агентов, которые сами пишут код и ходят в API, но защита доступа к данным всё ещё на уровне «напиши в промпте, чтобы не лез куда не надо». Это как дать стажёру root-доступ и попросить быть аккуратным. Автор поста прав: нужен отдельный слой политик между агентом и данными, не надежда на то, что модель прочитает инструкцию.
Agentic Data Protocol — интересная идея, но пока это концепт, а не продукт. Реальная проблема в том, что enterprise AI требует governance-слоя, которого просто нет. Кто первым сделает надёжный data hypervisor для агентов, получит кусок растущего рынка. Пока же все тестируют агентов в песочницах или с read-only правами и молятся, чтобы не случилось инцидента.
Комментарии