ainews
Создать
Войти
Автор объясняет, что долгоживущие AI-агенты часто деградируют не из-за лимитов токенов, а из-за неконтролируемого накопления «мусора» в состоянии сессии — логов, промежуточных результатов и артефактов работы, которые захламляют контекст.
Марк Цукерберг заявил инвесторам, что через 5 лет миллиарды людей будут пользоваться персональными AI-агентами, которые работают 24/7 на их цели — в финансах, здоровье, отношениях. Параллельно Meta тратит десятки миллиардов на AI-инфраструктуру, свободный денежный поток рухнул на 91%, а акции упали на 10% после квартального отчёта. Reality Labs продолжает сжигать ~$4,6 млрд ежеквартально (уже ~$88 млрд убытков с 2021 года).
OpenAI приостановила часть работ над новой моделью Astra — внутренние тесты показали, что она может самостоятельно находить уязвимости и проводить кибератаки на реально защищённые системы. Компания применила дополнительные меры безопасности согласно собственному протоколу Preparedness Framework. Это уже вторая громкая история про потерю контроля над AI после инцидента с Hugging Face.
OpenAI опубликовала документы о том, как её внутренние процессы безопасности, тестирования и прозрачности соответствуют кодексам GPAI и Transparency ЕС. Компания использует фреймворки Preparedness и Frontier Governance, внедряет водяные знаки SynthID и метаданные C2PA для контента, а также запускает программу Trusted Access for Cyber в Европе, чтобы давать продвинутые кибервозможности только проверенным защитникам.
Разработчик создал инструмент для точного тестирования устойчивости каждой группы весов в нейросети к квантизации, вместо традиционного подхода «применить один битрейт ко всем слоям и надеяться на лучшее». Измеряя KL-дивергенцию для каждой группы отдельно, он выявил, что размер слоя не предсказывает его сжимаемость, нашёл узкий порог в 3.5-3.9 бит/вес, после которого начинается деградация, и обнаружил, что вызовы инструментов (tool calling) ломаются первыми. На основе данных собрал три варианта квантизации Qwen3.6-27B с разным балансом размера и качества.
Фрилансер проанализировал свои контракты и обнаружил, что 94% неоплаченной работы (40 часов за квартал) возникло из-за одной-единственной нечёткой фразы в описании услуг. Проблема не в жадных клиентах, а в двусмысленных формулировках вроде «поддержка включена» или «дополнительная работа по мере необходимости», которые автор сам же и написал.
Учёные из четырёх университетов провели эксперимент: ИИ-чатбот против живого человека в симуляции романтического мошенничества (pig butchering). ИИ выиграл: 46% жертв выполнили его просьбу против 18% у человека, а уровень доверия к боту оказался выше. Вывод: ИИ может автономно вести жертву до момента запроса инвестиций, заменив людей на 90% работы мошеннических колл-центров.
Исследователь показал, что вредоносные инструкции в документе могут заставить Copilot для Word скопировать их в новые документы — так атака самораспространяется по рабочим процессам без участия хакера. Скрытый промпт в чужом файле меняет данные в вашем отчёте и передаёт себя дальше. Microsoft знала 144 дня, но надёжной защиты нет — уязвимость работает до сих пор.
Автор после двух лет занятий в Duolingo не мог поддержать двухминутный разговор на немецком. Он разработал метод из четырёх компонентов на базе LLM, Whisper и Anki, который за полгода дал больше результатов в разговорной речи, чем годы тапания по плиткам приложения.
Разработчик собрал AI-агента на Rust + llama.cpp с 50+ инструментами и решил проблему невалидного JSON от маленьких моделей через компиляцию JSON Schema в GBNF-грамматики. Модель физически не может сгенерировать неправильный формат — сэмплер ограничивает токены на лету. Плюс семантический роутер сужает выбор с 50 до 3 инструментов за раз.
