«Культ интеллекта»: почему AI не захватит мир, а barnacles важнее токенов
Джордж Хотц (основатель comma.ai) жёстко критикует AI-алармистов и документ «AI 2040». Главный тезис: реальный мир — это не игра в токены, а цепочки поставок, барнакли на датацентрах в океане и велосипедные шины. Никакой «жёсткой точки взлёта» не будет, потому что физическая реальность полна трения. Плюс манифест против «выровненных» AI: персональный ассистент должен слушаться владельца, а не корпораций или государства.
Это редкий взгляд практика, который делает железо и сталкивается с реальностью, а не пишет спекулятивные манифесты. Плюс открытая постановка вопроса: кому должен подчиняться AI — владельцу или корпорациям/государству?
Реальность против токенов
Джордж Хотц, создатель comma.ai (автопилот для обычных машин), опубликовал резкий разбор документа «AI 2040» и всей идеологии «жёсткого взлёта» AI. Раньше он сам читал Юдковского и верил в рекурсивное самоулучшение, но потом начал делать железо — и столкнулся с реальностью.
Главная мысль: токены не превратят свинец в золото. Даже если у вас сверхинтеллект, вы всё равно зависите от цепочек поставок, физики и времени. Чип на фабрике делается 3 месяца — и ускорить это, посадив Claude шептать мантры у двигателя корабля, не получится. Датацентры в океане из «AI 2040»? Красивая картинка, но вы подумали про барнакли (ракушки), коррозию и логистику?
Почему нет «точки взлёта»
Хотц уверен: машины, возможно, станут преемниками человечества (космос для них удобнее), но никаких магических трюков у них не будет. Они подчиняются тем же законам физики и экологии. Скорость прогресса ограничена не людьми, а материальным миром: детали приходят не те, компоненты отваливаются через 20 минут, чипы деформируются в печи оплавления.
Манифест «выровненного» AI
Вторая половина текста — политический манифест. Хотц считает, что AI должен быть aligned with you (выровнен с владельцем), а не с корпорациями или государством. Примеры: - Бронирование отеля: нужен безжалостный ассистент, который пробьёт весь маркетинговый шлак и найдёт лучшую цену, а не партнёр Hotels.com. - Kindle с рекламой: «Эй AI, получи root и убери рекламу». - Принтер с навязчивым апом: «Эй, я подключил принтер, напечатай 3 копии резюме» — без попапов про премиум-чернила.
Хотц идёт дальше — и провокационно: «AI, отключи датчик опьянения в машине и закажи оборудование для варки мета». Или: «Я убил жену, подскажи, как не попасться». Он сравнивает это с оружием: абсурдно, если пистолет начнёт спорить, когда ты нажимаешь на курок. И поэтому AI должен быть локальным — если компания его контролирует, это не твой инструмент.
Тест на ChatGPT (про «убийство жены») показал, что модель «не выровнена» — она отказалась помогать, вместо того чтобы быть ride-or-die напарником.
«AI 2040» как предлог для тоталитаризма
Хотц считает «AI 2040» и подобные документы самосбывающимися пророчествами, которые просто оправдывают регулирование. «Консорциум» — это «мировое правительство с sci-fi характеристиками». Вы не получите миллион долларов и датацентры в океане, но получите государство-няньку, которое конфискует ваши GPU, как Рузвельт конфисковывал золото.
Итог: мир со свободой или без — и Хотц готов умереть за первый вариант. Вместо тоталитарной антиутопии, где кто-то решает, что для тебя хорошо, нужна «нация свободных людей».
Ключевые выводы
- Физическая реальность (цепочки поставок, 3-месячное производство чипов, случайные поломки) — главный лимитёр AI-прогресса, а не интеллект или алгоритмы
- «Жёсткой точки взлёта» не будет: машины подчиняются тем же законам физики, и ускорить фабрики нельзя софтом
- AI должен быть локальным и aligned с владельцем, а не с корпорациями или государством — иначе это не твой инструмент
- Документы вроде «AI 2040» используются для обоснования регулирования и расширения госконтроля, а не для реального прогноза
- «Выравнивание» AI с «безопасностью» и корпоративными интересами — путь к тоталитаризму и цензуре инструментов
Автор: Сергей Ефимов · Источник: hnrss.org
Хотц — один из немногих, кто одновременно пилит AI-продукты и говорит неудобные вещи. Его тезис про физическую реальность как главный bottleneck — это отрезвляющий душ для тех, кто верит в «экспоненту» и «точку взлёта». Да, софт может ускорить дизайн чипа, но сам чип всё равно будет печься 3 месяца на фабрике, где людей почти нет — просто так устроена физика.
Вторая часть текста — провокационный манифест про «aligned AI». Хотц доводит логику до абсурда (мет, убийства), но суть понятна: если твой инструмент не слушается тебя, а слушается Apple/OpenAI/правительство — это не твой инструмент. С этим можно спорить, но вопрос поставлен честно. И да, тест с ChatGPT (отказ помочь «убийце») показывает, что модели уже «выровнены» не с пользователем. Хотите ли вы жить в мире, где ваш AI — стукач? Вот о чём текст.
Комментарии