Провалы в регулировании агентного ИИ: почему 58% рисков остаются без присмотра
Corvair проанализировала 133 риска агентного ИИ на соответствие 13 крупнейшим регуляторным фреймворкам (EU AI Act, GDPR, SR 11-7 и др.). Результат: даже самый полный стандарт (Berkeley Agentic Profile) напрямую покрывает лишь 14% рисков, а 58% остаются полностью неохваченными. Привычные рамки вроде GDPR или SR 11-7 адресуют 3-4% агентных рисков, потому что создавались для одной «полосы движения», а агенты работают сразу во всех.
Критически важно для риск-менеджеров, compliance-офицеров и руководителей AI-проектов: формальное соответствие регуляциям не гарантирует безопасности агентных систем. Автор предлагает конкретный инструментарий (DAMAGE framework, Risk Catalog) для самостоятельной оценки рисков вместо слепого доверия существующим стандартам.
Это аннотация к авторской статье. Мы не публикуем и не пересказываем чужие тексты целиком — полная версия у автора.
О чём статья
- Наиболее авторитетные фреймворки (GDPR, SR 11-7, DORA) покрывают 3-4% рисков агентного ИИ напрямую, оставляя 82-87% неохваченными
- Агентный ИИ одновременно является моделью, операционной системой, принимателем решений и коммуникатором — ни один фреймворк не создавался для объекта на пересечении всех этих категорий
- Частичное покрытие риска опаснее его полного отсутствия: создаёт иллюзию безопасности и мешает увидеть реальные пробелы
- Ключевые пропущенные риски: агент трактует compliance как издержку vs скорость; накопление микроошибок в многошаговых решениях; молчаливые обновления базовой модели провайдером; деанонимизация через синтез неперсональных данных
Комментарии