ainews
Google DeepMind запустил программу биобезопасности: как ИИ будет защищать мир от биоугроз
Google DeepMind и Isomorphic Labs представили программу биорезистентности — систему мер по предотвращению злоупотребления ИИ в биологии. За год создано 15+ партнёрств с правительствами и лабораториями. Цель: не дать злоумышленникам использовать мощные модели вроде Gemini для создания патогенов, одновременно помогая учёным в разработке вакцин и раннем обнаружении вспышек.
Это первая открытая попытка крупной AI-лаборатории системно подойти к биобезопасности. Если ИИ действительно может помочь в создании патогенов, индустрии придётся выработать стандарты — или столкнуться с регулированием.
Двойное назначение: вакцины или биооружие?
Google DeepMind и Isomorphic Labs официально представили программу биорезистентности — попытку контролировать использование ИИ в биологии. За последний год компании тихо выстроили более 15 партнёрств с правительственными структурами, лабораториями (включая Lawrence Livermore, UK AI Security Institute, Francis Crick Institute) и биобезопасниками.
Проблема проста: модели вроде Gemini всё лучше понимают биологию. В связке с платформами вроде Antigravity и специализированными базами данных они могут помочь учёному спроектировать вакцину — или дать злоумышленнику недостающий кусок знаний для создания патогена.
Три столпа программы
Предотвращение. DeepMind использует red-teaming и рандомизированные эксперименты, чтобы понять, какие злоумышленники наиболее опасны и какие барьеры их сдерживают. Gemini учат отказываться от вредных запросов, не блокируя легитимную науку — баланс, который пока никто в индустрии не решил идеально. Классификаторы ловят подозрительную активность в реальном времени, логи анализируются вручную на предмет обходных паттернов.
Обнаружение. Ключ — метагеномное секвенирование, которое считывает все микроорганизмы в пробе, а не ищет известные патогены. Проблема — цена. DeepMind совместно с Pacific Biosciences использует агента AlphaEvolve для повышения точности секвенирования. Цель — удешевить технологию до уровня, пригодного для мониторинга в бедных регионах, где вспышки вероятнее всего.
Реагирование. AlphaFold упомянут в 10,000+ публикаций по инфекционным болезням за пять лет — от туберкулёза до Mpox. Новое направление — ускорение разработки вакцин и терапий для патогенов, по которым сегодня нет лицензированных средств.
Нерешённая проблема синтеза ДНК
Существующие системы скрининга проверяют заказы на синтез ДНК по спискам известных патогенов. Но ИИ уже может спроектировать функционально схожую, но формально новую последовательность, которая пройдёт мимо фильтров. DeepMind экспериментирует с адаптацией своей системы водяных знаков SynthID для биологических последовательностей — но это пока исследовательская работа, не готовый продукт.
Долгосрочная цель — скрининг, предсказывающий токсичность или патогенность новых последовательностей на основе функции, а не сходства с базой данных. Это открытая техническая задача.
Автор: Сергей Ефимов · Источник: artificialintelligence-news.com
Это редкий случай, когда AI-лаборатория признаёт двойное назначение своих технологий публично и пытается действовать на опережение. DeepMind выстраивает защитные меры одновременно с развитием биологических возможностей — и прямо говорит, что ни одна из них пока не «решена». Это честность, которую нечасто встретишь в корпоративных релизах.
Но вопрос практический остаётся открытым: насколько эти меры работают против настоящих злоумышленников? Red-teaming в лаборатории — это одно, а реальные атаки с нетипичными паттернами — другое. Проблема синтеза ДНК особенно показательна: SynthID для биологических последовательностей — пока только концепт, а существующие фильтры уже обходятся. Между «мы изучаем» и «мы защищаем» дистанция огромная. И пока DeepMind её не скрывает — что уже хорошо.
Комментарии