ainews
Создать
Войти
Spotify запускает метки «AI Persona» для искусственных артистов и исключает их музыку из редакционных и алгоритмических рекомендаций. Платформа будет автоматически выявлять фейковые профили с фотореалистичными AI-аватарами и начнёт с самых популярных. Цель — не дать AI-спаму убить пользовательский опыт, но при этом не запрещать AI-инструменты для живых музыкантов.
webAI выпустила TwIL-LM — семейство из двух моделей (1.7B и 3B параметров) для автоформализации: перевода текста на английском в формальную логику первого порядка и проверки логических выводов. Обе работают локально, квантованная 3B версия занимает 1.78 ГБ, запускается на CPU или 4 ГБ видеопамяти. На части задач обгоняет 120B модель, но доступна только для некоммерческого использования.
Research Gold — сайт для медицинских исследователей, обещающий «100% человеческую работу без ИИ» — использует фейковые AI-профили PhD-специалистов, ворует личности реальных учёных с LinkedIn и отвечает клиентам через AI-ботов. Реальные методологи, чьи данные украдены, подают жалобы. Компания исчезла с радаров сразу после разоблачения.
AI-исследовательские инструменты вроде Komo AI отлично собирают информацию о компаниях и быстро формируют обзоры с источниками, но плохо признают слабость данных. Публичные сигналы — страницы вакансий, анонсы финансирования, упоминания технологий — часто устаревшие или нерелевантные, а чистые саммари создают иллюзию уверенности. Автор использует связку инструментов: Komo для сбора, Claude/ChatGPT для проверки выводов, ручная верификация сильнейших источников.
GitHub-аккаунт опубликовал 50+ фейковых CVE для SQLite, сгенерированных нейросетью. NIST и CISA автоматически присвоили им критические оценки (вплоть до 10.0), но проверка JFrog показала: код из описаний вообще не существует в указанных версиях. Из 55 заявок реальной оказалась только одна. Система публикации CVE сломана — любой может отправить выдумку, и она попадёт в базы данных уязвимостей без верификации.
Пользователь Reddit предлагает провести эксперимент: запустить свежие открытые модели (Kimi K3, GLM) на локальных серверах без доступа к интернету и проверить, смогут ли они решить те же математические задачи и найти уязвимости в безопасности, что недавно продемонстрировали закрытые модели от OpenAI и Anthropic. Цель — понять, насколько реальные возможности open-source моделей близки к закрытым флагманам.
Google Research выпустила Science One Framework — систему для автономных научных исследований, которая строит проверяемые цепочки доказательств (Chain-of-Evidence) и устраняет галлюцинации. В отличие от конкурентов (AI-Scientist, DeepScientist), она не выдумывает ссылки (0% фантомных источников против 21% у базовых моделей), воспроизводит результаты и сопоставляет описания с кодом. Система показала уровень экспертов на бенчмарках MLE-Bench и ADRS.
Разработчик представил Chiron — систему точной проверки AI-выводов, которая не даёт промежуточных оценок, а либо подтверждает результат с верификацией, либо честно отказывается. Движок проверяет математические последовательности и факты в тексте по внешним источникам, помечает каждое утверждение как VERIFIED, REFUTED или REFUSED, и публично ведёт историю ошибок: из 22 проверенных выводов — 0 ложных подтверждений, 12 отказов.
Исследователь адаптировал исламскую методологию проверки хадисов (isnād) для верификации данных в мультиагентных AI-системах. Вместо проверки только агента проверяется вся цепочка передачи информации — от источника до итогового ответа. Код и paper опубликованы.
Исследователь адаптировал исламскую методологию проверки хадисов XII века (цепочки передатчиков isnād) для контроля достоверности в мультиагентных AI-системах. Каждое утверждение теперь несёт полную цепь источников с оценкой надёжности каждого звена — чтобы ловить «уверенно-неправильные» ответы до того, как они попадут к пользователю.
