AI уже умеет клонировать чужие программы — и это меняет всё
Бенчмарк MirrorCode показал: современные AI-модели (например, Claude Opus 4.6) могут автономно воссоздавать сложные программы с десятками тысяч строк кода, имея только CLI-доступ — без исходников. Задача, на которую у человека ушли бы недели, решается AI за считанные часы. Параллельно Google DeepMind выпустил классификацию атак на AI-агентов: шесть категорий уязвимостей, от внедрения команд в CSS до манипуляции семантикой.
Это точка перегиба: AI перестаёт быть помощником и начинает заменять разработчиков в сложных автономных задачах. Параллельно растут риски безопасности — агенты легко обманываются, а политика не успевает за технологией.
AI научился клонировать программы без исходников
Исследователи из METR и Epoch создали бенчмарк MirrorCode, который проверяет, может ли AI воссоздать сложную программу, имея лишь CLI-интерфейс и набор тестов — без доступа к исходному коду.
Результаты впечатляют: модель Claude Opus 4.6 успешно реимплементировала gotree — биоинформатический инструмент с ~16 000 строк кода на Go и 40+ командами. По оценкам, человеку без AI-поддержки потребовалось бы 2–17 недель на эту задачу.
Более того, производительность масштабируется с inference-вычислениями: чем больше токенов даёшь модели, тем лучше результат. Это говорит о том, что ещё более крупные проекты могут стать решаемыми при достаточном объёме вычислений.
Оговорки
Бенчмарк не идеален: программы выдают канонический вывод (что упрощает спецификацию), возможна мемоизация базовых утилит, и это лишь срез возможностей AI в софтверной инженерии. Но сам факт автономного выполнения таких задач — революция.
AI-агенты уязвимы: шесть типов атак
Google DeepMind опубликовал классификацию атак на AI-агентов. Ключевая мысль: AI-агенты похожи на детей — умны, но легко обманываемы.
Шесть категорий: 1. Content Injection — внедрение команд в CSS, HTML, метаданные. 2. Semantic Manipulation — перегрузка контента эмоциональной или авторитетной лексикой для дезориентации. 3. Остальные четыре в исходном тексте обрезаны, но суть ясна: атаки бьют по восприятию и логике агентов.
Политика и будущее
Windfall Trust выпустил Policy Atlas — интерактивную карту 48 политических идей для ответа на трансформативный AI. От сокращения рабочей недели до глобальной координации регулирования.
Вывод
AI уже выполняет многонедельные задачи разработчиков автономно. Но с ростом автономии растут и риски — безопасность агентов станет критической проблемой.
Ключевые выводы
- AI может автономно реимплементировать программы с десятками тысяч строк кода, не видя исходников — задача на недели для человека
- Производительность AI-моделей масштабируется с inference-вычислениями: больше токенов = лучше результат
- AI-агенты уязвимы как дети: шесть категорий атак от Google DeepMind показывают, что безопасность агентов — ключевая проблема
- Windfall Trust собрал 48 политических идей для ответа на AI-революцию — от рынка труда до глобального регулирования
- MirrorCode — не идеальный тест (канонический вывод, возможна мемоизация), но прорыв в демонстрации long-horizon способностей AI
Автор: Ксения Лаврова · Источник: importai.substack.com
MirrorCode — это не просто красивый бенчмарк. Это сигнал: AI уже умеет делать то, за что мы платим senior-разработчикам приличные деньги. Да, там есть оговорки (канонический вывод, возможная мемоизация), но сам факт автономного клонирования 16K строк кода — это уже не "скоро", а "сейчас".
Однако Google DeepMind напоминает: агенты — это не просто умные модели, а умные модели в дикой среде интернета. Шесть категорий атак (из которых в тексте раскрыты только две) показывают: чем автономнее агент, тем больше поверхность атаки. Нам нужны не только крутые модели, но и инфраструктура безопасности для мира, где AI действует сам. Пока её нет — агенты остаются талантливыми, но беззащитными детьми.
Комментарии