ainews
Минимальный набор доказательств для госзакупок AI-систем
Государственные учреждения часто получают сотни страниц документации от AI-вендоров, но не могут ответить на базовые вопросы: какая именно модель использовалась, насколько тесты релевантны их задачам, что происходит при обновлении модели. Статья описывает, какой минимальный набор связанных документов необходим, чтобы независимый эксперт мог оценить предлагаемую систему и принять обоснованное решение о закупке.
Обязательно для специалистов по госзакупкам AI и регуляторов: статья систематизирует, какие именно документы и данные нужны для защищённого решения о закупке, основываясь на актуальных федеральных меморандумах США и NIST AI RMF.
Это аннотация к авторской статье. Мы не публикуем и не пересказываем чужие тексты целиком — полная версия у автора.
О чём статья
- Единица оценки — не абстрактная модель, а модель в конкретной системе, выполняющая определённую публичную функцию с юридически закреплёнными условиями
- Пакет документов должен быть пропорционален последствиям использования: система для суммаризации публичных отчётов требует меньше доказательств, чем система, влияющая на пособия или безопасность
- Описание системы должно включать не только название модели, но и всю цепочку: версию, хостинг, интеграции, промпты, внешние инструменты и субподрядчиков — каждый слой меняет производительность и риски
- Федеральные требования США (OMB M-25-21, M-26-04) требуют предварительного тестирования и оценки влияния для систем с высоким воздействием, включая анализ civil rights, privacy и независимую экспертизу
Комментарии