Google представила новый метод проверки «забывания» данных в нейросетях
Исследователи Google разработали Regularized f-Divergence Kernel Tests — фреймворк для проверки того, действительно ли AI-модель «забыла» данные после machine unlearning. Метод решает ключевую проблему: существующие статистические тесты либо пропускают локальные аномалии, либо дают ложные срабатывания. Новый подход автоматически выбирает оптимальные параметры и измеряет относительное расстояние между моделями, что критично для соответствия GDPR и AI-безопасности.
С ужесточением AI-регулирования (GDPR, Right to be Forgotten) компании обязаны доказывать удаление данных математически, а не на словах. Новый фреймворк — первый практичный инструмент для строгой проверки unlearning в production-моделях без доступа к их внутренностям.
Зачем нужно machine unlearning
Machine unlearning — способность AI-систем «забывать» части тренировочных данных без полного переобучения модели с нуля — превратилась из теоретической задачи в строгое требование. Это критично для соблюдения GDPR (право на забвение), AI-безопасности и качества моделей, обрабатывающих массивные чувствительные датасеты.
Проблема проверки
Аудиторы должны математически доказать приватность, но обычно не имеют доступа к внутренностям модели или оригинальным данным — только к запросам и выходам. Классический метод проверки — two-sample testing, сравнивающий распределения выходов двух моделей.
Но есть фундаментальные проблемы:
- MMD (maximum mean discrepancy) видит глобальные сдвиги, но пропускает локальные аномалии (например, специфичный outlier при точном промпте)
- Требует вручную настраивать параметры (bandwidth, regularization)
- Даёт ложные срабатывания: модели, обученные на одних данных с разными batch sizes, выглядят «разными»
- Идеальное «забывание» физически недостижимо — любой локальный unlearning оставляет след
Решение: Regularized f-Divergence Kernel Tests
Google предложила фреймворк (AISTATS 2026), который:
- Использует относительное расстояние: измеряет, ближе ли unlearned-модель к безопасной переобученной или к оригинальной скомпрометированной
- Применяет f-divergences для точечного обнаружения разных типов сдвигов (KL, Hellinger, TV, χ²)
- Автоматически подбирает оптимальную дивергенцию и гиперпараметры без sample splitting
- Kernel regularization делает вычисления на высокоразмерных данных практичными
Гарантии
Теоретически доказано: тесты контролируют false positives при любом размере выборки, а false negatives стремятся к нулю с ростом данных. Проверено на синтетических бенчмарках и задачах физики высоких энергий (поиск новых явлений вне Стандартной модели).
Метод превращает проверку unlearning из «угадай настройки и надейся» в строгую математическую процедуру.
Ключевые выводы
- Идеальное machine unlearning физически недостижимо — локальные алгоритмы всегда оставляют след в модели
- Классические two-sample тесты (MMD) пропускают локальные аномалии и дают ложные срабатывания при разных условиях обучения
- Относительное измерение расстояния (unlearned vs retrained vs original) решает проблему недостижимости «retrain equivalence»
- Автоматический подбор f-divergence и гиперпараметров устраняет главный источник ошибок аудиторов — ручную настройку
- Kernel regularization делает вычисление сложных дивергенций на реальных данных практически осуществимым
Автор: Сергей Ефимов · Источник: research.google
**Наконец-то серьёзная работа над проблемой, которую индустрия старательно игнорирует.** Все говорят о machine unlearning, но никто толком не проверяет, работает ли оно. Google честно признаёт неудобную правду: идеальное «забывание» без полного переобучения — физически невозможно. Любой локальный unlearning-алгоритм оставляет след. Поэтому они сменили вопрос с «забыла ли модель?» на «стала ли она больше похожа на безопасную версию или всё ещё ближе к скомпрометированной?»
Практическая ценность высока: с GDPR и AI Act компании должны доказывать compliance математически. Но не спешите радоваться — это академическая работа с AISTATS 2026. До production-инструмента ещё далеко, а реальные auditor'ы пока что играют в рулетку с настройками MMD. Зато фундамент заложен правильно: автоматический подбор параметров, kernel regularization, строгие гарантии по false positives/negatives. Если довести до ума — может стать стандартом индустрии.
Комментарии