ainews
Как 94% точности скрывают дискриминацию: защита от proxy-bias в рантайме через SHAP
Модель с 94.2% точности проходила стандартную валидацию, но в проде принимала решения по почтовому индексу, а не по навыкам кандидата. Автор показывает, как через SHAP-анализ выявить такую подмену, и как физически заблокировать предикт в рантайме с помощью governance-обёртки, которая проверяет атрибуцию признаков перед каждым вызовом модели.
0
76
