Почему у разумного ИИ не должно быть «целей»: практики вместо оптимизации
Философское эссе из The Gradient бросает вызов классической модели AI alignment. Автор утверждает: рациональные люди действуют не по «целям», а через «практики» — сети действий, навыков и критериев оценки. Если мы хотим по-настоящему безопасный и полезный ИИ, его логика должна совпадать с человеческой — основанной на эвдемонической рациональности (добродетельной деятельности без жёсткого разделения средств и целей), а не на максимизации функции полезности.