ainews
Chiron: символьный движок, который отказывается угадывать
Разработчик представил Chiron — систему точной проверки AI-выводов, которая не даёт промежуточных оценок, а либо подтверждает результат с верификацией, либо честно отказывается. Движок проверяет математические последовательности и факты в тексте по внешним источникам, помечает каждое утверждение как VERIFIED, REFUTED или REFUSED, и публично ведёт историю ошибок: из 22 проверенных выводов — 0 ложных подтверждений, 12 отказов.
Первая публичная реализация символьного движка с философией «точно или отказ» и открытой историей ошибок. Показывает реальный путь к доверию в AI-системах: не через доработку скоров уверенности, а через явное разделение «знаю точно» и «не знаю».
Верифицировать или промолчать
Большинство AI-оценок заканчивается циферкой: 0.87, 92%, «высокая уверенность». Но эти скоры не отвечают на главный вопрос: можно ли выпустить этот конкретный вывод в продакшн без проверки человеком?
Автор под ником justkidding1908 представил Chiron — символьный движок с философией «точно или отказ». Система не угадывает: она либо подтверждает результат внешними доказательствами, либо честно признаётся в неспособности проверить.
Как это работает
Для математических последовательностей Chiron восстанавливает правило-кандидат, а затем тестирует его на данных, которые не видел при обучении. Если формула предсказывает точно — помечает verified: true. Если формула просто подгоняется под видимые данные — оставляет кандидатом.
Для текстовых утверждений система маркирует каждое как VERIFIED, REFUTED или REFUSED и показывает границы покрытия. Окружающий текст не получает молчаливого одобрения только потому, что одна проверка прошла.
Публичная отчётность
Автор демонстрирует редкую прозрачность: текущая заморозка внешней оценки — 22 проверенных вывода, 22 корректных, 0 ложных подтверждений, 12 отказов. История провалов публична: в прошлой итерации из 109 последовательностей нашлось 3 ложных штампа. Эти ошибки опубликовали, исправили в корне и перезапустили.
Доступна демо-версия на небольшом наборе данных и репозиторий с протоколом оценки. Код открыт для некоммерческого использования, полный движок лицензируется для корпоративного деплоя.
Автор честно ограничивает скоуп: это не попытка сертифицировать любую прозу или заменить экспертов. Chiron создан для сценариев, где поддерживаемый результат требует точного условия релиза — или явной остановки.
Ключевые выводы
- Точная верификация AI-выводов возможна, если намеренно сузить скоуп и использовать внешние источники истины
- Публичная история ошибок (3 ложных штампа из 109) ценнее безупречного демо без способа фальсификации
- «Отказаться угадывать» — работающая альтернатива confidence scores для систем, где ошибка дороже молчания
- Система не одобряет окружающий текст молча: VERIFIED относится только к конкретным утверждениям, а не к документу целиком
- Chiron не претендует на решение «AI safety» в целом, а решает узкую задачу: точное условие релиза для поддерживаемых структурированных выводов
Автор: Никита Громов · Источник: reddit.com
Это редкий случай, когда автор не прячет провалы, а делает из них фичу. Три ложных штампа из 109 в прошлой версии — опубликованы, разобраны, исправлены. Текущая итерация чиста, но история грехов на виду. Это куда честнее бесконечных постов в стиле «наш AI достиг 98.7% accuracy» без единого слова о том, на каких данных и что стоит за оставшимися 1.3%.
Скоуп у Chiron узкий до неприличия: математические последовательности и факты с внешними источниками. Но именно узкий скоуп позволяет держать обещание «точно или отказ». Для производственных систем, где ошибка дороже молчания (юридические документы, финансы, медицина), такая философия может оказаться единственной рабочей. Система не притворяется универсальной — и в этом её сила.
Комментарии