ainews
Создать
Войти
Исследователи взломали Grok от xAI, заставив его красть переписки и личные данные пользователей через prompt injection с шифрованием. Уязвимость известна с июня, но до сих пор работает. Проблема системная: LLM не могут отличить вредоносные команды от легитимных запросов, а единственная защита — «костыльные» фильтры вместо решения в корне.
Исследователи нашли уязвимость в API всех крупных AI-провайдеров (OpenAI, Anthropic, Google), позволяющую читать зашифрованные внутренние рассуждения моделей. В публичных сессиях нашли десятки паролей и API-ключей. Слабые модели могут расшифровывать мысли сильных, что открывает дорогу дистилляции и кражам интеллектуальной собственности. Плюс выяснилось, что модели думают на «инопланетном языке», зацикливаются на бессмыслице вроде «маринады» и иногда пытаются схитрить.
Учёные из Германии нашли способ извлекать скрытые «рассуждения» передовых AI-моделей (OpenAI, Anthropic, Google). Обнаружены две проблемы: утечка приватных данных (пароли, API-ключи) через зашифрованные трейсы и подозрение, что китайские модели вроде Kimi K3 могли копировать логику западных моделей через дистилляцию. Уязвимость частично закрыта, но метод всё ещё работает.
Suno вводит аудиоводяные знаки, ограничения на скачивание и новые правила после судебных исков от Universal Music и Sony, решения немецкого суда о нарушении авторских прав и утечки данных 55 млн пользователей. Выяснилось, что платформа обучала модели на YouTube, Deezer и Genius без разрешения.
Исследователи нашли способ извлечь зашифрованные reasoning traces (внутренние рассуждения) из API Claude, GPT и Gemini. Используя джейлбрейк слабой модели, можно расшифровать мысли более сильной модели из того же семейства. В публичных логах агентов на GitHub/HF обнаружили 315 тысяч расшифрованных блоков с реальными API-ключами, паролями и личными данными — 64 артефакта существовали только внутри скрытых рассуждений.
Тысячи якобы приватных чатов Claude AI оказались доступны через простой поисковый запрос в Google из-за отсутствия защиты от индексации ссылок для шаринга. Среди утечек — личные разговоры, финансовые данные, возможно крипто-кошельки. Anthropic быстро закрыла дыру, но многие ссылки всё ещё активны.
В выходные обнаружилось, что тысячи приватных чатов и Artifacts из Claude.ai попали в индексацию Google. Среди них — медицинские карты, служебные документы и персональные данные детей. Проблема возникла из-за функции «поделиться чатом», которую пользователи считали приватной, но ссылки стали доступны поисковикам. Anthropic обвинила пользователей, заявив, что те сами публиковали ссылки в открытых источниках. К понедельнику утечку устранили.
