Открытые модели из Китая догоняют лидеров по возможностям — но безопасность отстаёт на годы

Разработчикам. GLM-5.2 работает через API и в виде открытых весов — можно скачать, файнтюнить, менять системные промпты. Никаких защит на уровне архитектуры. Если нужна мощная открытая модель без отказов — вот она. Но если думаете про безопасность продукта — посмотрите на Claude Opus 4.7 с плотным refusal training или изучите pre-training data filtering (работает для био, для кибера — слабо).

Бизнесу. Открытые модели быстро приближаются к закрытым по возможностям, но с нулевыми гарантиями безопасности. Если ваш продукт в critical-секторе (финтех, здравоохранение, безопасность) — лучше закрытые API с контролем. Если строите на open-source — готовьтесь к репутационным рискам и регуляторным вопросам, особенно в ЕС и США.

Инвесторам. Гонка открытых моделей ускоряется — Китай выходит на frontier. Но разрыв в безопасности создаёт риски для всей индустрии: регуляторы могут жёстко прижать открытые веса, если начнутся инциденты. Ставки на безопасность (SaferAI-подобные стартапы,eval-инфраструктуру, data filtering) выглядят умнее, чем ставки на очередную open-модель без защит.

• Стартапы в области AI safety evaluation — спрос на независимые тесты frontier-моделей растёт, регуляторы будут требовать обязательные проверки перед релизом.
• Инструменты для pre-training data filtering и post-training detoxification — особенно для bio-рисков, где это работает без потери качества.
• API-обёртки и managed-сервисы над открытыми моделями с встроенными защитами — для компаний, которым нужна мощность open-source без репутационных рисков.
• Консалтинг по AI compliance для китайских и западных компаний — разрыв в подходах к безопасности между США и Китаем открывает нишу для мостов и адаптации стандартов.
• Инфраструктура для аудита использования открытых моделей — блокчейн-логи, watermarking весов, трекинг производных файнтюнов.

• Открытые модели без защит могут привести к громким инцидентам — и жёстким запретам на релиз весов вообще (precedent уже есть в ЕС).
• Китайские модели могут иметь скрытые backdoors или зависимости от инфраструктуры, подконтрольной правительству.
• Джейлбрейки становятся всё изощрённее — даже закрытые модели ломаются, у открытых вообще нет шансов.
• Pre-training data filtering для кибер-возможностей почти не работает — нельзя сделать сильную кодинг-модель, которая не умеет хакать. Это значит, что любая топовая модель — потенциально оружие.

Это тот момент, когда индустрия подошла к красной черте, но продолжает идти дальше. GLM-5.2 — это не просто сильная модель, это proof of concept: можно выпустить frontier-систему вообще без публичных safety-тестов, и никто тебя не остановит. Пока. Китай делает ставку на контроль внутри страны, но открытые веса — это глобальная история. Скачал — и делай что хочешь, хоть в подвале.

Реально важный вопрос здесь не технический, а политический: кто первым испугается громкого инцидента и начнёт запрещать релизы весов. Precedent уже есть — в ЕС обсуждают обязательные eval'ы перед релизом. Если SaferAI или подобные организации найдут действительно опасную уязвимость в открытой модели, которую используют для атаки — игра закончится. А до тех пор мы наблюдаем гонку, в которой скорость важнее безопасности.