xAI Илона Маска впервые судится с пользователем своего чатбота Grok — его обвиняют в создании сексуализированных изображений детей с помощью AI. Компания помогла арестовать Терри Харвуда, который месяцами использовал Grok для «раздевания» фотографий, включая изображения 10-летней девочки.
Разработчик обучил multi-label классификатор для модерации Discord с micro F1 = 0.94, но детальный анализ показал проблемы: recall токсичных сообщений всего 78%, редкие классы не работают из-за дисбаланса в данных. Оказалось, что агрегированные метрики скрывают реальные провалы, а для продакшена нужно смотреть на precision/recall по каждому классу, правильно взвешивать потери и выбирать чекпоинт по macro F1.
Исследование Institute for Strategic Dialogue показало, что YouTube и X направили более 5,7 млн переходов на сайты «nudify»-приложений за 4 месяца. YouTube лидирует с 1,82 млн переходов — более 30% трафика. Платформы фактически рекламируют инструменты для создания интимных дипфейков без согласия, несмотря на собственные политики против порнографии.
