Демис Хассабис предлагает создать международного регулятора ИИ под руководством США
Глава Google DeepMind Демис Хассабис выступил за создание глобального наблюдательного органа для контроля передовых моделей ИИ. По его мнению, организацию должны возглавить США, а структура может напоминать существующие финансовые регуляторы с правом оценивать модели до их выпуска.
Предложение исходит от одного из ключевых игроков индустрии ИИ и может повлиять на будущую архитектуру глобального регулирования технологии. Это сигнал о растущем понимании необходимости контроля за развитием мощных моделей.
Призыв к глобальному регулированию
Демис Хассабис, генеральный директор и сооснователь Google DeepMind, опубликовал пост с предложением создать международную организацию для надзора за развитием искусственного интеллекта. По его мнению, такой орган должен обладать полномочиями останавливать выпуск передовых моделей, если они представляют опасность.
США как лидер инициативы
Хассабис считает, что возглавить эту инициативу должны Соединенные Штаты, обосновывая это их экономическим и техническим превосходством в области ИИ. Такой подход, по его мнению, позволит США устанавливать глобальные стандарты регулирования технологии.
Структура и полномочия
Предлагаемая организация может быть создана по образцу существующих регуляторов, таких как FINRA (Управление по регулированию финансовой индустрии). В её состав должны войти:
- Ведущие независимые эксперты
- Представители открытых сообществ разработчиков
- Специалисты с правом оценивать модели до релиза
Орган получит полномочия координировать действия между различными участниками рынка и проводить предварительную оценку рисков передовых моделей перед их публичным выпуском.
Ключевые выводы
- Глава Google DeepMind призывает к созданию глобального регулятора ИИ с правом блокировать опасные модели
- США предлагается как лидер инициативы благодаря технологическому и экономическому превосходству
- Структура организации может напоминать финансовые регуляторы с участием независимых экспертов и open-source сообщества
- Регулятор должен получить право оценивать frontier-модели до их публичного релиза
Автор: Robert Hart · Источник: The Verge AI
МНЕНИЕ РЕДАКЦИИ: Забавно наблюдать, как руководитель одной из самых мощных AI-лабораторий мира вдруг заговорил о необходимости тормозов. С одной стороны, это похвально — Хассабис явно понимает риски технологии, которую создаёт. С другой — предложение отдать регуляторную власть США выглядит наивно или, скорее, прагматично с точки зрения Google.
Здесь важно читать между строк: крупные игроки заинтересованы в регулировании, которое создаст барьеры для входа новых конкурентов. Если для запуска модели нужно пройти через многомесячную оценку дорогостоящего регулятора, стартапам будет куда сложнее. А вот Google, OpenAI и Anthropic такие издержки переживут спокойно. Идея сама по себе разумная, но дьявол — в деталях реализации.
Комментарии