ainews
Первая формально верифицированная 3D CSG: как доверять AI-коду без проверки 1000 строк
Разработчик создал первую формально верифицированную реализацию 3D CSG (пересечение мешей) на Lean 4. Вместо проверки 1000+ строк AI-кода достаточно прочитать 93 строки спецификации — корректность гарантирует компилятор Lean. AI автономно написал 60,000+ строк доказательств, которые не нужно читать человеку. Проект работает в браузере через WebAssembly.
Это первый практический пример того, как AI может писать критичный код с математической гарантией корректности, не требуя слепого доверия. Открывает AI доступ к медтеху, авиации, финансам — туда, где ошибки недопустимы.
Что произошло
Разработчик представил первую в мире формально верифицированную реализацию операции пересечения 3D-мешей (CSG — constructive solid geometry) на языке Lean 4. Это proof assistant, который математически доказывает корректность кода.
Суть эксперимента: AI написал ~1000 строк рабочего кода и 60,000+ строк формальных доказательств, но человеку не нужно это читать. Достаточно проверить 93 строки спецификации (что именно должна делать функция) — компилятор Lean гарантирует, что реализация точно соответствует спеке.
Почему это важно: - Традиционно AI-код надо вручную ревьюить — долго, дорого, ненадёжно - С формальной верификацией доверяешь математике, а не коду - Компилятор сам проверяет корректность — никакого доверия к LLM не требуется - Работает в браузере через WebAssembly (есть demo)
Технически: разработчик направлял AI-агента через ключевые этапы (описаны в readme), а агент автономно генерировал доказательства. Итог — production-ready CSG kernel с математической гарантией правильности.
Это не просто академическая игрушка: формальная верификация решает проблему доверия AI-коду в критичных системах (графика, CAD, физические симуляции).
Автор: Никита Громов · Источник: hnrss.org
Разработчикам. Lean 4 + AI = новый workflow: AI пишет код и доказательства, ты проверяешь только компактную спецификацию. Годится для критичных модулей (геометрия, криптография, compilers). Компиляция в WebAssembly работает из коробки. Минус: крутая кривая обучения Lean, плюс — абсолютная уверенность в корректности.
Бизнесу. Снижает стоимость code review AI-кода в regulated domains (медтех, авиация, финансы). Формальная верификация = страховка от багов за счёт математики. Можно делегировать AI сложные модули, проверяя только спецификацию. Применимо в CAD/CAM, game engines, 3D-печати.
Инвесторам. Формальная верификация AI-кода — растущая ниша на стыке theorem proving и LLM. Потенциал в безопасности (zero-trust AI), компиляторах, blockchain smart contracts. Lean 4 — open source, но коммерческие AI-proof assistants (например, для Solidity) могут взлететь. Следите за стартапами в formal methods + AI automation.
- AI-proof assistants as a service: SaaS для автоматической генерации формальных доказательств AI-кодом — продавать в regulated industries (финтех, медтех)
- Verified AI libs: библиотеки (геометрия, криптография, парсеры) с формальными гарантиями — продукт для enterprise
- CAD/CAM инструменты: верифицированные CSG kernels для 3D-моделирования и печати — конкурентное преимущество (ноль багов в геометрии)
- Smart contract verification: адаптировать подход для Solidity/Cairo — автоматическая проверка безопасности контрактов через Lean
- Обучающие курсы: Lean 4 + AI для разработчиков — спрос будет расти с adoption формальной верификации
- Крутая кривая обучения: Lean сложнее TypeScript — массовое adoption маловероятно без упрощения инструментов
- Узкая применимость: годится для алгоритмов, но не для UI/бизнес-логики — рынок ограничен critical systems
- Overhead: 60,000 строк доказательств на 1000 строк кода — генерация медленная, компиляция тяжёлая
- Hype vs практика: пока это proof-of-concept; в production таких проектов почти нет
Позиция редакции: Это действительно крутой прорыв, но не для всех. Если ты пишешь обычные веб-приложения — забудь, это overkill. Но если твой код управляет медоборудованием, финансовыми транзакциями или 3D-печатью критичных деталей — вот где формальная верификация AI становится must-have. Проблема доверия AI-коду решается не «лучшими промптами», а математикой.
Что смущает: пока это proof-of-concept. Lean 4 — язык для фанатов, кривая обучения космическая. Но тренд очевиден: AI, который пишет не только код, но и доказывает свою правоту формально, — это то, к чему движется индустрия. В ближайшие 2-3 года ждите коммерческие AI-proof assistants для Solidity, Rust, медицинских систем. Первые, кто внедрит это в production, получат огромное конкурентное преимущество — ноль багов как гарантия, а не обещание.
Комментарии