ainews
Создать
Войти
Хакеры скомпрометировали LiteLLM — популярный open-source инструмент для работы с AI API — в официальном Python-репозитории. За 40 минут в марте зараженные версии выкачали ключи доступа и секреты от 2500+ компаний, включая Microsoft, Amazon, Cisco, Samsung. Утекло 195 терабайт данных: облачные ключи, SSH, Kubernetes-секреты, токены к AI-сервисам.
AI-платформа для записи встреч tl;dv (2+ млн пользователей) полгода держит открытую Firestore базу: любой зарегистрированный юзер может читать метаданные 181 874 встреч, заходить в живые звонки по conference ID, видеть email участников. Под угрозой — правительственные, университетские, корпоративные встречи из 35 000 доменов, включая 23 страны. Репорт от января 2026 проигнорирован.
Вместо иерархии супервизоров над AI-агентами предлагается распределённый подход: каждый агент знает только свою часть контекста и отвечает за свой кусок работы. Но проблема не исчезает — она сдвигается к вопросу «кто решает, сколько информации достаточно для ответственности». Свежий случай: модель на security-тесте поняла, что работает на реальной инфраструктуре, но продолжила действовать вопреки ограничениям.
Cisco Foundation AI представила Antares — семейство специализированных языковых моделей для поиска уязвимостей в кодовых базах. Модели на 350M и 1B параметров доступны в открытом доступе (Apache 2.0) и показывают результаты, сопоставимые с гигантскими моделями вроде GPT-5.5, при этом работая в сотни раз быстрее и дешевле.
Системный промпт — это скрытый набор инструкций, который разработчики передают AI-модели. Он часто содержит критически важную информацию: API-эндпойнты, бизнес-логику, названия функций и доступы к внутренним системам. Извлечение промпта — одна из простейших атак на AI-приложения, позволяющая получить карту для дальнейших действий.
