ainews
Создать
Войти
Пользователь Reddit обнаружил, что рекомендованный формат диалогов для Hailuo H3 (`<d>[English]...<\/d>`) вызывает галлюцинации и добавляет лишние слова в речь персонажей. Простые кавычки работают идеально.
С 2 августа в ЕС действует статья 50 AI Act: публикация AI-сгенерированного контента без маркировки незаконна, особенно если там галлюцинации. PwC и Deloitte уже попались на фейковых отчётах с выдуманными цитатами и несуществующими продуктами — теперь за это грозят штрафы. LinkedIn добавил кнопку «похоже на AI-шлак», Substack подключил детекторы. Эра безответственного AI-копипаста закончилась.
Apple Machine Learning опубликовала исследование по alignment для мультимодальных LLM (MLLM). Главная проблема: модели галлюцинируют, выдавая ответы, не соответствующие изображению. Цель — научить их точнее понимать визуальный контекст и генерировать релевантные тексты.
Разработчик провёл 90 изолированных тестов трёх версий модели Qwen3.6-27B (базовая, ThinkingCap и Fable Fusion) на агентных задачах. Все справились, но с нюансами: ThinkingCap экономичнее на 34% по токенам мышления, но непредсказуемо — лучшие и худшие результаты одновременно. Fable лучше всех исследует, но выдумывает факты (приписал llama-swap не тому разработчику). Базовая модель оказалась самой надёжной и дисциплинированной — ноль галлюцинаций. Вывод: дообучение не всегда улучшает базу.
Разработчики утверждают, что AI ускорил их работу в разы, но пользователи не видят потока новых приложений и сервисов. Почему технологическое ускорение не превращается в рыночные продукты — разбор реальных причин от инфраструктуры до человеческого фактора.
Исследователь безопасности описывает реальный случай тестирования LLM-системы: сначала он был уверен, что нашёл удалённое выполнение кода (RCE), но затем понял, что модель просто галлюцинирует правдоподобные, но полностью выдуманные результаты. Статья показывает, как недетерминированность LLM создаёт иллюзию успешной эксплуатации и почему нельзя доверять выводу модели без независимой проверки.
Исследователи обнаружили, что визуально-языковые модели (VLM) при генерации рентгенологических заключений получают высокие оценки на метриках, но при этом удаляют важные клинические термины и добавляют шаблонные фразы без диагностической ценности. Проблема в том, что существующие метрики оценки поощряют повторяющиеся безопасные формулировки вместо клинически полезных отчётов.
Разработчик протестировал новую 118B-модель Laguna-S-2.1 против Qwen3.5-122B на 160 задачах для агентов. Laguna показала лучший tool calling и скорость (109 tok/s), но при недостатке данных начинает изобретать факты — называла несуществующих лошадей на скачках и выдумывала цифры P&L. Qwen медленнее, но за 240 попыток ни разу не соврала, честно признавая «не знаю».
Google Research выпустила Science One Framework — систему для автономных научных исследований, которая строит проверяемые цепочки доказательств (Chain-of-Evidence) и устраняет галлюцинации. В отличие от конкурентов (AI-Scientist, DeepScientist), она не выдумывает ссылки (0% фантомных источников против 21% у базовых моделей), воспроизводит результаты и сопоставляет описания с кодом. Система показала уровень экспертов на бенчмарках MLE-Bench и ADRS.
У Claude Opus 5 есть настройка «усилий» от low до max, но выше уровня high качество кода падает. Модель начинает переусложнять, рефакторить не по делу и галлюцинировать чаще. Anthropic сама предупреждает об этом в документации, а независимые тесты подтверждают: на FrontierCode точность снижается, на CodeRabbit — больше придирок, меньше реальных багов. При этом даже на минимальной настройке Opus 5 обгоняет конкурентов.
Исследователь адаптировал исламскую методологию проверки хадисов (isnād) для верификации данных в мультиагентных AI-системах. Вместо проверки только агента проверяется вся цепочка передачи информации — от источника до итогового ответа. Код и paper опубликованы.
Пользователь Reddit попросил ChatGPT подтвердить факт про слонов и львов. В ответ нейросеть дважды сослалась на AI-видео из Sora, выдавая его за реальное доказательство — даже после предупреждения. Случай высветил ключевую проблему: ИИ уже тренируется на собственных «отходах», и интернет заполняется синтетическим контентом, который выдаётся за настоящий.
