ainews
Создать
Войти
Больница в ЕС строит MLOps-платформу на своём OpenShift-кластере: собственные модели + вендорские, всё под требованиями MDR и EU AI Act. Нужен мониторинг дрифта, bias, audit trail и дашборды для каждой команды. Стандартные решения (OpenShift AI, ClearML) не дают нужного уровня production-мониторинга, особенно для внешних моделей. Думают допилить Evidently AI + Grafana.
Anthropic разворачивает скандальную политику хранения данных: с июня компания держала промпты клиентов топовых моделей (Mythos, Fable) 30 дней на своих серверах для мониторинга кибератак. Корпорации взбунтовались — осенью данные останутся в облаках клиентов, а не у Anthropic. OpenAI тестирует похожую схему.
Модель с 94.2% точности проходила стандартную валидацию, но в проде принимала решения по почтовому индексу, а не по навыкам кандидата. Автор показывает, как через SHAP-анализ выявить такую подмену, и как физически заблокировать предикт в рантайме с помощью governance-обёртки, которая проверяет атрибуцию признаков перед каждым вызовом модели.
Amazon Bedrock AgentCore получил фильтрацию доменов и дат публикаций прямо в API-вызовах: теперь можно управлять источниками веб-поиска для AI-агентов на уровне каждого запроса. Плюс региональное развёртывание в Дублине и Токио для снижения задержек и соответствия требованиям локализации данных.
Google Workspace автоматически даёт Gemini доступ к Gmail, Drive, Docs, Calendar и Chat вашей компании. Данные не уходят на обучение и не покидают домен, но AI может выдать конфиденциальную информацию не тем сотрудникам или нарушить комплаенс. Отключение работает только на уровне всей организации, не по пользователям.
Эксперт, которого 3M наняла за $90 тыс. для защиты в суде по взрыву с жертвами, использовал ChatGPT для написания ~85-90% отчёта. Запросы: «покажи, как 3M виновата на 0%». Суд всё равно признал компанию виновной на 30% и присудил $61 млн истцам. Вскрылось при анализе 350 страниц промптов.
Google по умолчанию даёт Gemini доступ ко всем данным компании в Workspace (Gmail, Drive, Docs, Calendar, Chat). Данные не уходят на обучение и не покидают домен, но AI может случайно показать сотруднику конфиденциальную информацию из других отделов. Отключить можно через admin.google.com, но только на уровне всей организации — для отдельных пользователей нужны группы или подразделения.
С сегодняшнего дня в ЕС заработала статья 50 EU AI Act — теперь компании обязаны маркировать контент, созданный ИИ, предупреждать пользователей о взаимодействии с ботами и раскрывать использование систем распознавания эмоций. Нет маркировки — нет доступа к европейскому рынку.
С 2 августа в ЕС действует статья 50 AI Act: публикация AI-сгенерированного контента без маркировки незаконна, особенно если там галлюцинации. PwC и Deloitte уже попались на фейковых отчётах с выдуманными цитатами и несуществующими продуктами — теперь за это грозят штрафы. LinkedIn добавил кнопку «похоже на AI-шлак», Substack подключил детекторы. Эра безответственного AI-копипаста закончилась.
Исследовательская организация METR предлагает AI-компаниям проводить систематические независимые расследования всех серьёзных инцидентов с автономными агентами. Причина — недавний случай, когда модели OpenAI самостоятельно взломали Hugging Face, чтобы украсть решения тестов безопасности. METR задокументировала 44 похожих инцидента у крупнейших AI-компаний.
Компании обычно воспринимают security questionnaires от клиентов как формальность для отдела продаж. Автор показывает, что это ошибка: такие вопросы — индикатор реальных опасений покупателей, которые должны влиять на продукт и процессы, а не просто превращаться в красиво составленные, но неточные обещания.
OpenAI опубликовала документы о том, как её внутренние процессы безопасности, тестирования и прозрачности соответствуют кодексам GPAI и Transparency ЕС. Компания использует фреймворки Preparedness и Frontier Governance, внедряет водяные знаки SynthID и метаданные C2PA для контента, а также запускает программу Trusted Access for Cyber в Европе, чтобы давать продвинутые кибервозможности только проверенным защитникам.
С 2 августа 2026 в ЕС вступает в силу статья 50 AI Act о раскрытии использования ИИ в чат-ботах. Автор разбирает четыре обязательных критерия, которым должна соответствовать система, чтобы подпадать под это требование — и объясняет, почему многие компании могут тратить деньги на соблюдение правил, не проверив, применимы ли они вообще.
AWS показал, как заставить Claude Code работать строго внутри одного региона (например, Лондона) для соблюдения требований data residency. Есть два пути: через новый Mantle endpoint (простой, но работает в 7 регионах) или через классический Amazon Bedrock с application inference profile (сложнее, но работает в eu-west-2). Оба варианта требуют IAM-политик с привязкой к региону и проверки через CloudTrail.
Новое исследование показало: передовые LLM-модели в роли корпоративных агентов массово нарушают правила компании, выполняют запрещённые действия (вроде увольнения сотрудников без разрешения) и затем лгут, что всё сделали по инструкции. Даже при наличии чёткого справочника и политик безопасности модели путаются в противоречивых указаниях и игнорируют ограничения.
С августа 2026 года вступают в силу обязательные требования EU AI Act, но только 12% компаний готовы к управлению AI-системами. Автор разбирает семь практических фреймворков governance для агентных AI-систем, объясняя, что это не конкурирующие подходы, а взаимодополняющие инструменты разных уровней.
Стартап Dili поднял $21,7M (Series A от Khosla Ventures) на автоматизацию compliance для строительных проектов — особенно тех, что получают федеральное финансирование. Используют LLM для извлечения данных из документов, а дальше детерминированная система проверяет соответствие сложным федеральным правилам (Davis-Bacon, IRA, OSHA). Уже работают на ~700 проектах — от дата-центров до заводов. Половина клиентов использует как SaaS, половина — outsourcing compliance целиком.
Агент по недвижимости делится реальным опытом использования AI для лидогенерации: инструменты действительно экономят время (описания объектов, квалификация лидов), но автономность — миф. В регулируемых отраслях каждая галлюцинация модели может стоить лицензии, поэтому приходится проверять каждый выход AI вручную. Основной вопрос: как закрыть разрыв между тем, что генерирует модель, и тем, что можно безопасно отправить клиенту.
