Войти

#AI alignment

И исследования ·11 июл 2026

«Культ интеллекта»: почему AI не захватит мир, а barn­acles важнее токенов

Джордж Хотц (основатель comma.ai) жёстко критикует AI-алармистов и документ «AI 2040». Главный тезис: реальный мир — это не игра в токены, а цепочки поставок, барнакли на датацентрах в океане и велосипедные шины. Никакой «жёсткой точки взлёта» не будет, потому что физическая реальность полна трения. Плюс манифест против «выровненных» AI: персональный ассистент должен слушаться владельца, а не корпораций или государства.

0 27
И исследования ·18 фев 2026

Почему у разумного ИИ не должно быть «целей»: практики вместо оптимизации

Философское эссе из The Gradient бросает вызов классической модели AI alignment. Автор утверждает: рациональные люди действуют не по «целям», а через «практики» — сети действий, навыков и критериев оценки. Если мы хотим по-настоящему безопасный и полезный ИИ, его логика должна совпадать с человеческой — основанной на эвдемонической рациональности (добродетельной деятельности без жёсткого разделения средств и целей), а не на максимизации функции полезности.

0 69