#математическая логика

И исследования ·28 июл 2026

Математика доверия к AI: можно ли формализовать истинность, обоснованность и надёжность утверждений модели

Исследователь хочет создать верификационный движок для проверки надёжности утверждений AI — не улучшать LLM, а математически доказывать, можно ли доверять её выводам. Вопрос: как формализовать «истину», «обоснованность» и «доверие» через теорию вероятностей, формальную логику, теорию информации или constraint satisfaction? Ищет математические основы для Trust Engine, а не философские рассуждения.

0 81

И исследования ·27 июл 2026

Почему нельзя найти вектор правды в эмбеддингах LLM: парадокс Тарского в действии

Исследователи пытаются найти направление в эмбеддингах LLM, которое соответствует «правде». Но математическая логика доказывает: такой универсальный детектор истины невозможен — это парадокс самореференции, как у Гёделя и Тарского. Эксперимент на Qwen3.5-4B показал: на обычных фразах проба работает на 94%, на самореферентных («эта фраза ложна») — вываливается в nonsense.

0 87