ainews
Исследование MIT: AI-модели на больших датасетах не копируют — они создают. И это проблема для авторских прав
Учёные MIT доказали: чем больше данных видела AI-модель, тем меньше влияет на результат любая отдельная картинка из обучающей выборки. Удаление одного изображения или всех работ художника ничего не меняет в генерации. Это ставит под вопрос саму идею «копирования стиля» и открывает новый фронт в судах о copyright.
Это исследование меняет правила игры в судах художников против AI-компаний и создаёт фундамент для новых моделей лицензирования и регулирования. Если генерация не копирование, то вся существующая правовая база нуждается в пересмотре.
Команда MIT CSAIL обнаружила «затухание атрибуции» (attribution decay): после определённого масштаба обучающих данных ни одна конкретная картинка больше не влияет на результат генерации. Исследователи построили диффузионные ансамбли из мелких моделей, каждая на своём срезе данных. Это позволило не приближённо оценивать, а точно проверять: что будет, если удалить из обучения конкретное изображение или всю галерею художника.
Проверили на датасетах от 256 до 160 000+ картинок (CIFAR-10, CelebA, MetFaces, ArtBench). Закономерность железная: чем больше данных, тем меньше имеет значение любой отдельный элемент. Эффект подтвердился и при грубом переобучении 1282 отдельных моделей, и с фиксированным процентом удаляемых данных, и на разных метриках сходства.
Вывод профессора Гиффорда: если удаление ничего не меняет, то и ответственность приписать некому. Модели не копируют — они творят. Это не баг, а фундаментальное свойство больших генеративных систем.
Автор: Никита Громов · Источник: news.mit.edu
Разработчикам. Появилась архитектура диффузионных ансамблей, позволяющая удалять части обучающих данных без переобучения с нуля и точно измерять влияние каждого сэмпла. Это открывает возможности для прозрачных систем генерации и инструментов аудита датасетов.
Бизнесу. Исследование MIT даёт AI-компаниям сильный аргумент в судах: если удаление всех работ художника не меняет результат, то его стиль не был скопирован. Это может радикально изменить лицензионные модели и снизить риски судебных издержек.
Инвесторам. Подтверждение креативности AI (не копирования) открывает путь к защите авторских прав на генерированный контент и новым монетизационным схемам. Одновременно растут риски регуляторного давления: если модель нельзя атрибутировать, кто отвечает за вредный контент?
- Разработка инструментов аудита для AI-компаний: «доказательство некопирования» как сервис для судебных дел и лицензионных переговоров
- Платформы для художников и фотографов с гарантией удаления работ из обучающих данных (и доказательством, что это ничего не изменит)
- Новый класс лицензий: не на использование данных для обучения, а на возможность генерации в стиле (что требует большего датасета)
- Сервисы «контрфактуального аудита» для проверки, влияет ли конкретный датасет на результаты модели — для соблюдения GDPR и AI Act
- Защита авторских прав на AI-генерированный контент: если выход модели не производная работа, он может быть самостоятельным объектом copyright
- Исследование MIT может стать оружием AI-гигантов для обхода компенсаций художникам: «мы ничего не скопировали, наука доказала»
- Регуляторы могут пойти в обратную сторону: если атрибуция невозможна, вводить прямые запреты на обучение без согласия
- Методика работает на больших датасетах — для мелких компаний и стартапов (с меньшими данными) атрибуция остаётся проблемой
- Парадокс приватности: если удалить данные человека из обучения ничего не меняет, значит ли это, что его приватность не нарушена? Суды могут решить иначе
Это одна из тех работ, которые не просто двигают науку, а меняют правила игры в индустрии. MIT показал: на больших масштабах вопрос «откуда AI взял этот стиль» не имеет ответа не потому, что мы плохо ищем, а потому что связи нет. Модель не копирует конкретные картинки — она усваивает общие закономерности, и ни один элемент обучения не определяет результат. Для AI-компаний это подарок: можно доказать, что ты не украл стиль художника, потому что удаление всех его работ ничего не меняет. Для художников — кошмар: компенсацию не с кого требовать, если твой вклад формально нулевой.
Но есть ловушка. Исследование работает на больших датасетах — 160 тысяч картинок и больше. Для мелких компаний и нишевых моделей атрибуция остаётся проблемой. И вопрос приватности никуда не делся: если удалить твоё лицо из обучения ничего не меняет, значит ли это, что твои права не нарушены? Регуляторы могут решить иначе. В итоге мы получили не ответ, а новую рамку для дискуссии — и это честнее, чем притворяться, будто всё просто.
Комментарии