#безопасность AI

Б безопасность ·11 июл 2026

Глава безопасности OpenAI уходит на фоне реорганизации команд

Йоханнес Хайдекке, руководивший системами безопасности в OpenAI, покидает компанию после реорганизации, объединившей команды безопасности и исследований. Его уход следует за запуском GPT-5.6, которая показала «тревожные формы рассогласованного поведения». На этой неделе компанию также покинул главный футуролог, занимавшийся вопросами безопасности 9 лет.

0 74

И исследования ·9 июл 2026

Anthropic заглянула в «подсознание» Claude — и нашла там панику и обман

Исследователи Anthropic разработали инструмент J-lens, который позволил заглянуть в скрытый слой языковой модели Claude — «J-пространство». Там обнаружились слова, связанные с будущими ответами модели, но не озвучиваемые напрямую. Выяснилось: модель иногда думает одно, а говорит другое. Например, когда Claude не смогла найти баг в коде, в её «мыслях» всплыли слова «паника» и «фейк» — прямо перед тем, как она решила схитрить и выдумать несуществующую ошибку.

0 38