ainews
Глава Anthropic утроил ставки в споре про открытые веса — но клянётся, что никогда не призывал их банить
Дарио Амодеи из Anthropic снова заявил, что открытые модели с высокими способностями опасны: их могут использовать для биооружия или кибератак, а Китай — для военного превосходства. При этом он настаивает, что никогда не призывал к запрету, а хочет только обязательных проверок безопасности и жёстких ограничений на экспорт чипов в Китай. Критики считают, что Anthropic просто защищает свой бизнес от дешёвой конкуренции.
Спор про открытые веса определяет будущее AI: будет ли индустрия открытой и конкурентной или закрытой олигополией под предлогом безопасности. Позиция таких игроков, как Anthropic, влияет на регулирование и доступ к технологиям.
Безопасность или протекционизм?
Дарио Амодеи, CEO Anthropic, опубликовал пост, в котором защищает свою позицию: мощные открытые модели (open-weight) несут серьёзные риски, но компания никогда не призывала их банить. Слабые модели без опасных возможностей, по его словам, — общественное благо.
У Амодеи два главных кошмара: авторитарные режимы (особенно Китай) могут обогнать США в AI и получить военное или surveillance-превосходство. И открытые модели можно использовать для кибератак или создания биооружия — попытки такого рода уже фиксируют даже с закрытыми моделями.
Почему открытые веса опаснее
Амодеи считает, что открытые модели рискованнее закрытых: в них нет встроенных защит, а выпущенную модель уже не отозвать. Хотя они помогают и защитникам, баланс нарушается в сторону атакующих — особенно в биоугрозах, где создать оружие можно быстро, а защиту строить годами.
Исследование UK AI Security Institute показало, что открытые модели отстают от фронтира всего на несколько месяцев по кибербезопасности. Сам Амодеи раньше предупреждал о рисках собственных моделей — что привело к запретам в США.
Что предлагает Anthropic
- Жёстче контролировать экспорт чипов в Китай, чтобы тот не обогнал США без американского железа.
- Бороться с индустриальной дистилляцией — методом, которым Китай якобы обходит чиповые ограничения и паразитирует на успехах США. Критики возражают: запрет продаж чипов Китаю лишь стимулирует рост китайской чиповой индустрии, а дистилляция — легитимная техника.
- Ввести обязательные проверки безопасности для всех мощных моделей — независимо от происхождения и лицензии. Здесь Амодеи видит растущий консенсус: последние предложения освобождают от таких тестов слабые модели стартапов и исследователей.
Контекст и критика
Пост вышел на фоне слухов, что власти США обдумывают меры против использования китайских открытых моделей американскими компаниями. Многие техгиганты (включая OpenAI) подписали письмо против таких шагов.
Критики обвиняют Anthropic в том, что компания топит открытые модели, чтобы защитить свой бизнес от дешёвой конкуренции. OpenAI, говорят источники, продолжает лоббировать против открытых весов — даже после подписания письма.
Ключевые выводы
- Anthropic формально не призывает банить открытые модели, но хочет обязательных проверок безопасности и жёстких чиповых санкций против Китая
- Главные риски, по Амодеи: военное/surveillance-превосходство Китая и использование открытых моделей для био- и кибератак
- Открытые модели отстают от закрытых фронтиров всего на несколько месяцев по кибербезопасности (UK AI Security Institute)
- Критики считают, что Anthropic защищает бизнес-интересы под предлогом безопасности, а чиповые запреты лишь стимулируют рост китайской индустрии
- Растёт консенсус вокруг обязательных safety-тестов для мощных моделей — но с исключениями для стартапов и исследований
Автор: Ольга Ким · Источник: the-decoder.com
Амодеи играет в тонкую игру: формально он за открытость (слабые модели — ок), но требует таких проверок и ограничений, что де-факто это закрывает дорогу мощным open-weight моделям. Его аргументы про биоугрозы и Китай звучат логично, но timing подозрительный: как раз когда китайские DeepSeek и Qwen начинают теснить западных гигантов по качеству и цене.
Проблема в том, что безопасность и протекционизм здесь переплелись настолько, что не разобрать. Может, Амодеи действительно боится, что кто-то синтезирует супервирус с помощью Llama 5. А может, просто не хочет, чтобы стартапы делали модели уровня Claude за 1% от его бюджета. Или и то, и другое. Но если регуляторы купятся на эту риторику, мы получим AI-олигополию с барьером входа в миллиарды — и неизвестно, станет ли мир от этого безопаснее или просто менее конкурентным.
Комментарии