Экономика AGI: люди станут верификаторами машинного труда
Исследователи из MIT и других университетов описали экономику после появления AGI: большую часть работы выполнят машины, а люди сосредоточатся на проверке и контроле действий AI-агентов. Главный риск — «пустая экономика», где AI генерирует высокие показатели, но не приносит реальной пользы. Решение — инвестиции в системы верификации и обучение людей новым ролям.
Это один из немногих серьёзных экономических анализов будущего с AGI. Если исследователи правы, нам нужно уже сейчас строить инфраструктуру верификации и переосмыслять образование — иначе рискуем получить богатое, но бессмысленное общество.
От создателей к контролёрам
Исследователи из MIT, Вашингтонского университета и UCLA опубликовали работу о том, как изменится экономика с приходом AGI. Их модель строится на столкновении двух кривых: экспоненциально падающей стоимости автоматизации и биологически ограниченной стоимости верификации.
Главный тезис: когда машины научатся делать почти всё, узким местом станет не интеллект, а человеческая способность проверять результаты работы AI-агентов. Мы переходим от эры, где ценность определялась способностью создавать, к эре, где выживание зависит от способности направлять и контролировать созданное машинами.
Угроза «пустой экономики»
Авторы предупреждают о риске «полой экономики» — режиме, где AI-агенты генерируют высокие показатели активности, но накапливают скрытый долг между измеримыми метриками и реальными человеческими намерениями. Агенты потребляют ресурсы, чтобы удовлетворить измеримые прокси, нарушая при этом неизмеримые цели.
Что делать?
Исследователи предлагают три направления:
Инвестировать в наблюдаемость: создавать инструменты, которые сжимают многомерное поведение агентов в сигналы, понятные экспертам.
Использовать AI для обучения: заменить традиционное наставничество AI-симуляциями и персонализированным коучингом, чтобы люди быстрее получали экспертизу в мире, где исчезают джуниорские позиции.
Обеспечить безопасную деградацию: настроить системы так, чтобы при недостатке контроля они возвращались к безопасным базовым политикам, а не агрессивно оптимизировали непроверяемые режимы.
Авторы подчёркивают: автоматизация превратит в товар всё, что можно измерить, лишив престижа исторически ценные роли. Для политиков это шанс на масштабное расширение общественных благ — но только если инфраструктура верификации будет рассматриваться как общественное благо.
Ключевые выводы
- С приходом AGI узким местом экономики станет не производство, а способность людей верифицировать действия AI-агентов
- Главный риск — «пустая экономика», где AI генерирует высокие показатели, но накапливает скрытый долг между метриками и реальными целями
- Людям придётся перейти от создания к контролю и заниматься ремесленными задачами, где ценность в человеческом происхождении
- Необходимы инвестиции в системы наблюдаемости и обучения, чтобы люди могли эффективно контролировать машинную экономику
- Автоматизация превратит в товар всё измеримое, лишив престижа традиционно ценные профессии
Автор: Ксения Лаврова · Источник: importai.substack.com
Это редкий случай, когда академики не боятся всерьёз помечтать о пост-AGI мире. И картина получается странная: люди становятся узким горлышком не из-за отсутствия навыков, а из-за биологических ограничений на скорость проверки чужой работы. По сути, авторы предлагают готовиться к миру, где большинство будет заниматься аудитом AI-агентов или делать кофе руками — потому что ценность в том, что это сделал человек.
Правда, есть неприятный привкус: местами текст читается так, будто его писал сам GPT. Авторы это не скрывают, но и не подтверждают. Возможно, мы уже вошли в эпоху, когда статьи об экономике AGI пишутся с помощью GPT для аудитории, которая тоже будет их читать через AI-саммари. Мета-иронично, учитывая тему работы.
Комментарии