безопасность 7 авг 2026 1 мин

Anthropic ослабила биозащиту Claude 3.5 Sonnet — но не для вирусологии и токсикологии

Anthropic снизила число ложных срабатываний биофильтров Claude 3.5 Sonnet на 85% — теперь модель отвечает на обычные медицинские вопросы, но по-прежнему блокирует запросы по вирусологии, токсикологии и молекулярному дизайну. Компания опирается на данные разведки США и исследования о рисках создания синтетических вирусов с помощью AI.

Это первый случай, когда AI-компания смягчает биозащиту на основе реальной статистики, а не просто под давлением клиентов — и при этом держит жёсткую линию там, где риски доказаны. Для медтеха это открывает рынок, для регуляторов — прецедент.

Что произошло

Anthropic убрала излишнюю параною с Claude 3.5 Sonnet: раньше модель блокировала почти любые биологические запросы и переводила пользователя на более слабую версию Opus. Учёные возмущались — нельзя нормально работать, если AI боится расшифровать анализы крови.

Теперь 85% ложных срабатываний убрали. Claude 3.5 Sonnet спокойно разбирает результаты лабораторных исследований, объясняет симптомы, отвечает на медицинские вопросы.

Но жёсткие ограничения остались для «двойного назначения»: вирусология, токсикология, молекулярный дизайн. Anthropic считает, что здесь модель может дать возможности, недоступные без AI.

Компания ссылается на анализ американской разведки, исследование переписок в ChatGPT с запросами на биооружие, совместные предупреждения учёных и проект Стэнфорда, где AI помог спроектировать полностью синтетические вирусы.

Разница с кибератаками: вирус нельзя выключить кнопкой, противоядия делаются месяцами. Anthropic разрабатывает программы доступа для исследователей, чтобы со временем разблокировать эти функции для легальных целей.

биобезопасностьмодерация контентадвойное назначениемедицинские AIрегулирование

Автор: Елена Верещагина · Источник: the-decoder.com

Разработчикам. Можно интегрировать Claude 3.5 Sonnet в медицинские приложения без постоянных блокировок — теперь модель адекватно работает с лабораторными данными, симптомами, диагностикой. Но API для вирусологии и токсикологии придётся ждать специальных программ доступа.

Бизнесу. Медтех-стартапы могут наконец использовать Claude для консультаций, обучения, интерпретации анализов без риска блокировки каждого второго запроса. Но если ваш продукт касается разработки лекарств или работы с патогенами — готовьтесь к долгому согласованию доступа.

Инвесторам. Anthropic балансирует между безопасностью и юзабилити — слишком жёсткие фильтры отпугивали корпоративных клиентов в медицине и науке. Смягчение откроет рынок B2B, но репутационные риски остаются: один инцидент с биооружием — и весь AI-сектор под огнём регуляторов.

Хайп15

Реальная польза70

Заработать65

Медицинские чат-боты для пациентов — интерпретация анализов, объяснение диагнозов, подготовка к визиту к врачу
Образовательные платформы для медстудентов — разбор клинических случаев, тренировка диагностики без риска блокировки
Инструменты для врачей общей практики — быстрая справка по редким заболеваниям, помощь в дифференциальной диагностике
Корпоративные решения для фармы — анализ побочных эффектов, работа с клиническими данными (но не синтез новых молекул)
Программы для биоинформатиков — обработка геномных данных, визуализация, обучение без ограничений на базовую биологию

Остаточные блокировки: даже 85% снижение — это не 100%, легитимные запросы всё ещё могут срабатывать
Конкуренты (OpenAI, Google) могут не вводить аналогичные ограничения и переманить клиентов из фармы и биотеха
Программы доступа для исследователей — это дополнительная бюрократия, которая замедлит внедрение в науке
Один публичный случай использования AI для создания токсина — и вся отрасль получит жёсткое регулирование, Anthropic первыми под удар

Наконец-то AI-компания не просто кричит про безопасность, а показывает данные: вот где реальный риск (синтез патогенов), а вот где паранойя (расшифровка анализа крови). Anthropic сделала то, что должны были сделать все: убрала излишние блокировки, но держит защиту там, где AI реально даёт новые возможности для создания биооружия. Данные разведки США и эксперименты Стэнфорда по синтезу вирусов — это не фантазии, это документированные риски.

Для бизнеса это значит, что медицинские AI-продукты наконец перестанут спотыкаться о каждый второй запрос. Но если ты делаешь инструменты для разработки лекарств или работы с патогенами — готовься к долгим согласованиям. Это разумный компромисс, но только если конкуренты не решат, что безопасность — это маркетинг, а не реальность.