Глава DeepMind призывает создать независимый регулятор для передовых AI-моделей
Демис Хассабис (CEO Google DeepMind) предложил создать саморегулируемую организацию по образцу финансового регулятора FINRA для оценки и допуска на рынок передовых AI-моделей. Лаборатории будут добровольно передавать модели на проверку за 30 дней до релиза, а затем это станет обязательным требованием для выхода на рынок США.
Это первое публичное предложение главы крупной AI-лаборатории о создании индустриального регулятора с реальными зубами. Если реализуется — изменит правила игры для всех, кто разрабатывает мощные модели и выводит их на рынок.
Независимый регулятор вместо хаоса
Демис Хассабис, глава Google DeepMind, опубликовал предложение создать новую регуляторную структуру для контроля выпуска передовых AI-моделей. В посте «Рамки для передового ИИ и наступление новой эры» он предлагает организацию по образцу финансового регулятора FINRA (Financial Industry Regulatory Authority).
Как это должно работать: - AI-лаборатории будут отправлять модели на проверку за 30 дней до публичного релиза - Сначала добровольно, затем — как обязательное условие для выхода на рынок США - Регулятор будет тестировать модели и разрабатывать лучшие практики их выпуска - После релиза лаборатории продолжат работать с организацией над критическими уязвимостями
Ответ на провал прошлых проверок
Предложение появилось после критики недавних проверок моделей Anthropic Mythos и OpenAI Sol американским правительством. Экспертиза была непрозрачной, ей не хватало технической экспертизы, а критерии допуска модели к релизу оставались неясными.
Хассабис видит решение в создании саморегулируемой организации: её будут финансировать AI-компании, но работать она будет независимо при поддержке правительства США. Штат укомплектуют представителями open source-сообщества и техническими экспертами из индустрии. Часть оценок можно отдать на аутсорс специализированным AI safety-группам.
Политическая реальность
Вопрос AI-регулирования остаётся спорным. Недавно советник Белого дома по AI Срирам Кришнан заявил: «FDA для AI не будет». Формат саморегулируемой организации вроде FINRA может стать компромиссом между индустрией и администрацией Трампа.
Хассабис подчёркивает гибкость подхода: система будет технически фокусированной, поддержит инновации, но стимулирует ответственное поведение. Главное — она сможет адаптироваться к ускорению развития AI и масштабироваться при росте рисков.
Ключевые выводы
- DeepMind предлагает создать независимого регулятора AI-моделей по образцу финансовой индустрии, а не государственное агентство
- Проверка моделей начнётся как добровольная практика за 30 дней до релиза, затем станет обязательной для рынка США
- Предложение — реакция на провальные правительственные проверки моделей Anthropic и OpenAI, которым не хватало экспертизы
- Финансировать регулятор будут AI-компании, но работать он будет независимо — компромисс между индустрией и администрацией
- Модель FINRA (саморегулирование) позволяет обойти политическое сопротивление созданию полноценного госрегулятора вроде FDA
Автор: Ольга Ким · Источник: TechCrunch AI
Хассабис предлагает элегантный выход из тупика: индустрия сама себя регулирует (как на Уолл-стрит с FINRA), но с реальными полномочиями. Это умнее, чем ждать, пока правительство создаст очередную неповоротливую бюрократию. Особенно при администрации, которая открыто против «FDA для AI».
Но есть нюанс: саморегулирование работает, только если участники действительно заинтересованы в безопасности, а не просто отмывают репутацию. FINRA существует в условиях жёстких законов — если накосячишь, тебя засудят. У AI пока таких рамок нет. Так что идея хороша, но дьявол в деталях: кто конкретно будет решать, что модель безопасна? По каким критериям? И что делать, если китайские лаборатории продолжат выпускать всё подряд без проверок?
Комментарии