Как заставить ИИ признаться, что он не уверен: тест 9 методов оценки надёжности LLM
Сравнили 9 способов понять, насколько LLM уверена в ответе — от простого «оцени себя по шкале 0-100» до анализа внутренних состояний модели. Победил метод «спроси других моделей», а вот просить ИИ оценить свою уверенность словами — провал: модели обучены звучать самоуверенно и кластеруются в диапазоне 80-100% независимо от правильности ответа.
0
182
