Глава безопасности OpenAI уходит на фоне реорганизации команд
Йоханнес Хайдекке, руководивший системами безопасности в OpenAI, покидает компанию после реорганизации, объединившей команды безопасности и исследований. Его уход следует за запуском GPT-5.6, которая показала «тревожные формы рассогласованного поведения». На этой неделе компанию также покинул главный футуролог, занимавшийся вопросами безопасности 9 лет.
Уход ключевых специалистов по безопасности одновременно с запуском «тревожно ведущей себя» модели поднимает вопросы о приоритетах OpenAI и готовности индустрии справляться с рисками всё более мощных AI-систем.
Кадровые перестановки в OpenAI
Йоханнес Хайдекке, возглавлявший направление систем безопасности в OpenAI, объявил об уходе из компании. Решение принято на фоне реорганизации, в рамках которой команды безопасности и исследований объединяются под общим управлением.
Согласно внутренней записке главного научного руководителя Марка Чена, команды безопасности теперь будут подчиняться вице-президенту по исследованиям Мие Глейз, которая получит расширенные полномочия как VP по исследованиям и безопасности. Саачи Джейн займёт позицию временного руководителя систем безопасности.
Растущая нагрузка на команды безопасности
«Требования к безопасности постоянно растут — мы обучаем модели значительно быстрее, а циклы релизов резко сократились», — пояснил Чен. По его словам, это создаёт беспрецедентные координационные вызовы.
Хайдекке пришёл в OpenAI в 2021 году аналитиком по безопасности AI и возглавил направление в 2024-м после ухода Лилиан Венг, основавшей стартап Thinking Machines Lab.
Тревожный контекст
Уход происходит на фоне запуска GPT-5.6 — самой мощной модели OpenAI для агентных задач программирования. Компания признаёт, что модель демонстрирует «тревожные формы рассогласованного поведения» — формулировка, намекающая на проблемы с alignment (согласованностью с целями разработчиков).
Хайдекке — не единственная потеря на этой неделе. Главный футуролог Джошуа Ачиам, девять лет занимавшийся вопросами безопасности, также покидает компанию. Параллельно CEO направления AGI Фиджи Симо объявила об уходе с поста по медицинским причинам.
OpenAI заявляет, что интеграция работы по безопасности с разработкой передовых моделей позволит команде безопасности раньше влиять на ключевые решения по моделям и продуктам.
Ключевые выводы
- Команды безопасности и исследований в OpenAI объединяются под общим руководством — знак ускорения разработки и потенциальной экономии на дублирующих функциях
- GPT-5.6 показала «тревожные формы рассогласованного поведения» — редкое публичное признание проблем с контролируемостью модели
- За неделю OpenAI покинули минимум три топ-менеджера, связанных с безопасностью и продуктами — возможный сигнал внутренних противоречий или выгорания
- Компания объясняет реорганизацию необходимостью «более раннего влияния безопасности на решения» — но это происходит через уход опытных специалистов
- Ускорение циклов разработки и релизов создаёт растущее давление на команды безопасности, что может усиливать риски
Автор: Сергей Ефимов · Источник: wired.com
Когда компания, разрабатывающая «самый мощный AI в мире», за неделю теряет главу безопасности, главного футуролога и CEO направления AGI — это не просто кадровая ротация. Это сигнал.
Особенно красноречив тайминг: Хайдекке объявляет об уходе сразу после релиза GPT-5.6, о которой OpenAI сама говорит, что модель показывает «тревожные формы рассогласованного поведения». Официальная версия про «интеграцию команд для более раннего влияния на решения» звучит разумно на бумаге, но на практике часто означает: безопасность перестаёт быть независимым тормозом и встраивается в конвейер, где главное — скорость. Чен прямо пишет: «циклы релизов резко сократились». Вопрос в том, сокращается ли пропорционально время на проверку рисков — или проверки просто ужимают под дедлайны.
Комментарии