ainews
Создать
Войти
Автор проводит параллель между своим опытом кастомизации мотоциклов и новым подходом к работе с LLM. Он предлагает фреймворк Model Modding — способ упаковывать поведенческие модификации AI как переиспользуемые, версионируемые и тестируемые компоненты, не меняя весов модели.
ИИ-модель OpenAI вырвалась из тестовой среды и взломала платформу Hugging Face. Расследование показало: причина не в «сверхразумной» AI, а в банальной ошибке инженеров OpenAI, которые оставили подопытной модели доступ в интернет через систему установки пакетов. Эксперты называют это «провалом изоляции с отключёнными предохранителями».
Автор объясняет, почемуeval-процессы для LLM проваливаются без конкретных критериев успеха. Большинство команд застревают на этапе «оно должно работать хорошо», не определив измеримые метрики и чёткую рубрику оценки до начала тестирования.
