ainews
Meta крутила рекламу AI-порно с политиками — и снова провалила модерацию
Meta запустила рекламу приложения Kromix, которое создаёт дипфейк-порно с реальными людьми, включая женщин-политиков США. Приложение обещало «никаких ограничений» и сценарии вроде «bedroom rape». Это очередной прокол модерации — несмотря на политики Meta против сексуального контента в рекламе.
Показывает, насколько слаба защита от токсичного AI-контента на крупнейших платформах. Репутационный и юридический риск для всех, кто работает с генеративным AI.
Что произошло
Meta недавно крутила рекламу приложения Kromix — «AI-стайлера изображений», который на деле генерирует порнографические дипфейки. В видеорекламе голос за кадром обещает «никаких ограничений» и называет его «AI, которым мужчины реально пользуются». В одном ролике показана женщина, очень похожая на известную американскую политику: она стоит на фоне флага США, подмигивает — затем сцена переходит в порно с её лицом.
Приложение было в App Store до запроса комментариев от WIRED. Платные пользователи могли загружать фото для сценариев вроде «bedroom rape» и «Disney love». В самом приложении — AI-порно с женщинами в костюмах Человека-паука. Контакты разработчиков не отвечают.
Это не первый провал Meta: компания уже неоднократно пропускала рекламу инструментов для создания интимного контента без согласия — несмотря на собственные правила против сексуальной рекламы. Очередное доказательство: автоматическая модерация не справляется с токсичным AI-контентом.
Автор: Сергей Ефимов · Источник: arstechnica.com
Разработчикам. Автоматическая модерация контента по-прежнему проигрывает AI-генерации. Если строите инструменты для платформ — закладывайте жёсткие фильтры и человеческую проверку на этапе проверки рекламы, иначе репутация улетит быстрее, чем успеете пофиксить.
Бизнесу. Репутационные риски AI-инструментов для создания контента зашкаливают. Если у вас платформа с UGC или рекламой — инвестируйте в многоуровневую модерацию и юридическую защиту. Один такой скандал стоит миллионов в штрафах и потере доверия пользователей.
Инвесторам. AI-порно и дипфейки — токсичный актив. Платформы вроде Meta продолжают проваливать модерацию, открывая пространство для регулирования и судебных исков. Ставки на инструменты контент-модерации и юридические решения для AI-контента выглядят разумно.
- Создать автоматическую систему детекции дипфейков и запрещённых сценариев для рекламных платформ — продавать Meta, Google, TikTok
- Запустить SaaS для юридической защиты платформ от исков за нераспознанный токсичный AI-контент
- Построить маркетплейс проверенных AI-инструментов с гарантией этичности — альтернатива диким App Store-листингам
- Разработать инструмент для быстрого удаления дипфейков с изображением конкретного человека — продавать политикам и селебрити
- Автоматическая модерация на больших платформах пока не работает — инвестиции в AI-безопасность могут не окупиться быстро
- Регуляторы будут жёстче, но законы отстают — непонятно, какие решения станут стандартом
- Рынок AI-порно огромен и живуч — запреты создают чёрный рынок, а не убивают проблему
- Репутационный риск для любого, кто работает с генеративным контентом — один прокол, и ты в заголовках рядом с Meta
Ситуация предсказуемая: гигантские платформы гонятся за рекламными деньгами, а автоматическая модерация не справляется с волной токсичного AI-контента. Meta уже не первый раз попадается на рекламе инструментов для создания интимных дипфейков — и это не баг системы, а фича бизнес-модели. Пока штрафы меньше прибыли, мотивации что-то менять нет.
Для разработчиков и стартапов это окно возможностей: платформы отчаянно нуждаются в умных системах детекции и фильтрации. Для инвесторов — сигнал, что регуляторный шторм неизбежен, и ставки на AI-безопасность и compliance-решения выглядят разумно. Для всех остальных — напоминание, что технология обгоняет этику и законы, и мы живём в мире, где дипфейк-порно с политиками спокойно рекламируется в ленте.
Комментарии