Кентавры и обратные кентавры: почему одни любят ИИ, а другие ненавидят
Парадокс ИИ объясняется через концепцию «кентавров» (человек использует ИИ как инструмент) и «обратных кентавров» (ИИ использует человека как подстраховку). Первые выбирают, когда и как применять технологию, вторые — превращаются в «громоотводы» для ошибок ИИ, работая с нечеловеческой нагрузкой под диктовку начальства.
Объясняет, почему споры об ИИ такие ожесточённые: люди говорят о принципиально разном опыте. Показывает, что проблема не в технологии, а в том, кто решает, как её использовать — и кому достаётся ответственность за ошибки.
Почему ИИ — и рай, и ад одновременно
Кори Доктороу в колонке для Locus распутывает странный клубок: одни пользователи ИИ в восторге, другие проклинают каждый день работы с ним. Разгадка — в теории автоматизации.
Кентавр — это человек с машиной-помощником (голова всадника на сильном теле коня). Обратный кентавр — машина, использующая человека как придаток (хрупкий человек, которым дёргает безжалостный алгоритм).
Летом издательство Hearst опубликовало список книг на лето — полный выдуманных названий от ChatGPT
404 Media нашли автора — фрилансера, чьё имя стояло под материалом. Он был в ужасе. Но дальше выяснилось: этот человек в одиночку «написал» весь 64-страничный вкладыш — десятки подборок, которые раньше делала команда из трёх интернов, редактора и фактчекеров.
Один человек физически не мог выполнить такой объём без ИИ. Его работа превратилась в роль «громоотвода»: брать на себя ответственность за косяки алгоритма, которому босс отдал всю редакцию.
А вот контрпример
Сам Доктороу — тоже фрилансер. Ему нужна была цитата из подкаста, но он не помнил, из какого. Скачал Whisper (открытую модель OpenAI), прогнал 30 часов аудио, за пару часов получил транскрипты, нашёл цитату по поиску, перепроверил по таймкоду. Кентавр: сам решил, как использовать инструмент, сам контролирует качество.
Вот и весь парадокс
Те, кого превратили в обратных кентавров — уволили коллег, навалили их работу и приказали «используй ИИ» — ненавидят технологию, потому что она делает жизнь хуже.
Те, кто сам выбирает, когда и как применять ИИ, используют его ровно настолько, насколько это полезно, и выбрасывают, когда не работает.
Политика и сопротивление
Доктороу напоминает: задача научной фантастики — не описывать, что делает технология, а спрашивать, кому она это делает и для кого.
Технобоссы практикуют «вульгарный тэтчеризм»: «Альтернативы нет». Цукерберг хочет, чтобы вы думали: невозможно общаться с друзьями без его слежки. Боссы ИИ хочут, чтобы вы поверили: единственный способ применять эти инструменты — вытеснять и унижать работников.
ИИ — это пузырь. Если бы это была просто группа учёных, экспериментирующих с обратным распространением и машинным обучением, никакого скандала не было бы. Программист, использующий ChatGPT для генерации кроссбраузерных CSS-стилей, может упомянуть это за пивом — но не превратится в фаната культа.
Ключевые выводы
- Удовлетворённость ИИ зависит не от технологии, а от того, кто контролирует её использование: сам работник или начальство
- «Обратный кентавр» — человек становится «громоотводом» для ошибок ИИ, выполняя нечеловеческий объём работы
- ИИ-пузырь существует на обещаниях вытеснения труда — это стратегия привлечения инвестиций, а не неизбежность
- Техногиганты продают «отсутствие альтернатив» как идеологию, хотя другие способы использования технологий существуют
- Хорошая НФ спрашивает не «что делает технология», а «кому и для кого она это делает»
Автор: Дмитрий Орлов · Источник: hnrss.org
Доктороу нащупал важную вещь: весь хайп и ненависть вокруг ИИ — про власть и контроль, а не про нейросети. Когда ты сам решаешь, использовать ли Whisper для расшифровки подкастов — это удобный инструмент. Когда босс увольняет редакцию и говорит "теперь ты один сделаешь всё через ChatGPT" — ты становишься мясным щитом для алгоритма.
Вот почему дискуссии об ИИ такие токсичные: одни говорят про велосипед, другие — про гиг-платформу с невыполнимыми квотами. Это разные миры. И да, ИИ — пузырь, потому что инвесторы вкладываются не в "удобные инструменты", а в обещание "заменить людей". Пока этот нарратив не лопнет, обратных кентавров будет только больше.
Комментарии