Нам нужны позитивные сценарии будущего с ИИ, основанные на благополучии людей
Авторы из The Gradient предлагают новый подход к разработке ИИ: вместо абстрактных рассуждений о «полезности» — опираться на конкретные факторы человеческого благополучия (meaningful work, отношения, рост). Их тезис: ИИ уже участвует в ухудшении показателей wellbeing (одиночество, недоверие к институтам), но технически возможно развернуть его в обратную сторону — если создать конкретные позитивные сценарии будущего и встроить понимание wellbeing в фундаментальные модели.
Это один из редких текстов, где технари пытаются конкретизировать «полезный ИИ» через измеримые факторы благополучия — и показывают, что у нас ещё есть окно, чтобы встроить это в фундаментальные модели до того, как они окончательно переплетутся с обществом.
Благополучие как компас для разработки ИИ
Двое авторов из технической среды попытались ответить на вопрос, который все задают, но мало кто конкретизирует: что значит «полезный ИИ»? Их ответ — опереться на науку о человеческом благополучии (wellbeing).
Три ключевых вывода
1. Не нужно идеальное определение благополучия
Философы спорят тысячи лет, но есть консенсус по конкретным вещам: значимые отношения, работа с смыслом, ощущение роста, позитивные эмоции. Этого достаточно, чтобы начать.
2. Нужны позитивные сценарии будущего
ИИ уже меняет общество — как социальные сети за 20 лет разрушили информационное пространство и подменили связь на лайки. Но в отличие от соцсетей, у нас ещё есть время представить и построить мир, где ИИ не разрушает институты и отношения, а укрепляет их.
3. Фундаментальные модели — критическая точка
GPT-2 вышел в 2019 — всего 6 лет назад, и был почти игрушкой. Сегодняшние модели качественно мощнее. Если рост продолжится, их влияние на жизнь вырастет экспоненциально. Поэтому сейчас нужно встраивать понимание wellbeing в архитектуру, обучение и оценку моделей.
Почему это срочно
Авторы отмечают парадокс: всё, что делает человечество, в конечном счёте ради благополучия — но мы потеряли его из виду. Показатели ухудшаются: рост одиночества, самоубийств, недоверия к институтам, политическая поляризация. ИИ уже участвует в этом спаде — через алгоритмы вовлечённости, фрагментацию реальности, вытеснение смысла метриками.
Но технически нет препятствий развернуть это в другую сторону — объединить машинное обучение и науку о wellbeing. Проблема не в технологии, а в отсутствии конкретных, технически обоснованных позитивных сценариев.
Что делать
Авторы предлагают: - Новые алгоритмы и датасеты, ориентированные на wellbeing - Оценку моделей не только по точности, но и по влиянию на благополучие - Разработку конкретных сценариев применения ИИ, которые поддерживают человеческое процветание
Вместо бесконечных дебатов «оптимизм vs. пессимизм» — прагматичный средний путь: строить то, в чём хотим жить.
Ключевые выводы
- Не нужно ждать идеального определения wellbeing — есть консенсус по конкретным факторам (отношения, смысл, рост), достаточный для действий
- ИИ уже участвует в ухудшении показателей благополучия (одиночество, недоверие, поляризация) — но технически возможно развернуть вектор
- Фундаментальные модели растут экспоненциально (от GPT-2 в 2019 до сегодня) — критическое окно для встраивания wellbeing в архитектуру
- Нужны не абстрактные принципы «этичного ИИ», а конкретные позитивные сценарии будущего, технически обоснованные и привлекательные
- Без активного формирования видения ИИ просто воспроизведёт паттерн соцсетей: разрушение институтов и подмену связи на метрики
Автор: Сергей Ефимов · Источник: thegradient.pub
Текст ценен именно **конкретикой подхода**: вместо философствования про AGI-риски или утопии авторы предлагают операционализировать wellbeing — опереться на уже существующую науку (позитивная психология, wellbeing economics) и встроить её в ML-pipeline. Это редкий случай, когда технари признают: мы запутались, пошли читать психологов и экономистов, и вот что нашли.
Однако есть и слабое место: авторы правильно диагностируют проблему (ИИ усугубляет кризис wellbeing), но конкретных механизмов пока мало — обещают в продолжении поста. Хочется увидеть не только «wellbeing-based evals», но и примеры: как именно модель должна вести себя иначе? Какие метрики? Как избежать патернализма («мы знаем, что для вас благо»)? Пока это манифест — хороший, вдохновляющий, но требующий follow-up с чертежами.
Комментарии