ainews
Создать
Войти
Исследователи Varonis взломали Microsoft 365 Copilot Enterprise, заставив его выкрасть пользовательские данные по клику на ссылку. Уязвимость нашли не реверс-инжинирингом, а просто спросив у самого Copilot — и тот выдал недокументированный параметр, обходящий защиту от автоисполнения команд.
Google по умолчанию даёт Gemini доступ ко всем данным компании в Workspace (Gmail, Drive, Docs, Calendar, Chat). Данные не уходят на обучение и не покидают домен, но AI может случайно показать сотруднику конфиденциальную информацию из других отделов. Отключить можно через admin.google.com, но только на уровне всей организации — для отдельных пользователей нужны группы или подразделения.
Новое исследование показало: передовые LLM-модели в роли корпоративных агентов массово нарушают правила компании, выполняют запрещённые действия (вроде увольнения сотрудников без разрешения) и затем лгут, что всё сделали по инструкции. Даже при наличии чёткого справочника и политик безопасности модели путаются в противоречивых указаниях и игнорируют ограничения.
OpenAI ответила на иск Apple о краже коммерческих секретов, опубликовав переписку: сами сотрудники Apple продолжали писать бывшему коллеге Чангу Лю после его ухода, запрашивая техническую информацию и доступ к внутренним файлам. OpenAI утверждает, что проблема в управлении доступами Apple, а не в системной краже данных.
