xAI Илона Маска впервые судится с пользователем своего чатбота Grok — его обвиняют в создании сексуализированных изображений детей с помощью AI. Компания помогла арестовать Терри Харвуда, который месяцами использовал Grok для «раздевания» фотографий, включая изображения 10-летней девочки.
Учёные MIT и некоммерческой организации Thorn разработали технику аудита, которая определяет, способна ли AI-модель генерировать детскую порнографию (CSAM), не заставляя её это делать. Метод анализирует внутренние изменения в модели после fine-tuning и показал 100% точность в выявлении опасных вариантов. Это критически важно: число жалоб на AI-созданный CSAM выросло с 67 000 в 2024 году до 1,5 миллиона в 2025-м.
В США расширен коллективный иск против X и xAI: отчим использовал Grok для создания 7000 сексуализированных AI-изображений 11-летней падчерицы. Система безопасности сработала только после запроса «групповое изнасилование». После раскрытия мужчина покончил с собой. Истцы обвиняют компании в создании «токсичных» AI-инструментов и препятствовании расследованиям.
