#uncertainty quantification

И исследования ·17 июл 2026

Как научить LLM признаваться в неуверенности: тест 9 методов оценки уверенности

AI-модели часто врут с уверенным видом — проблема для критичных решений. Автор протестировал 9 подходов, как заставить LLM честно оценивать собственную неуверенность: от простого «насколько ты уверен?» до консенсуса между разными моделями. Победитель — cross-model agreement (спросить у других моделей), худший — самосогласованность (переспросить ту же модель 8 раз).

0 78

И исследования ·15 июл 2026

Как заставить ИИ признаться, что он не уверен: тест 9 методов оценки надёжности LLM

Сравнили 9 способов понять, насколько LLM уверена в ответе — от простого «оцени себя по шкале 0-100» до анализа внутренних состояний модели. Победил метод «спроси других моделей», а вот просить ИИ оценить свою уверенность словами — провал: модели обучены звучать самоуверенно и кластеруются в диапазоне 80-100% независимо от правильности ответа.

0 182