Как я сделал так, чтобы модель признавала незнание вместо выдумки
Самое опасное — уверенный неправильный ответ. Боролся с этим отдельно.
Дал в промпте явное разрешение говорить «не знаю» и примеры, когда это правильный ответ. Плюс снизил давление формулировками.
Частота честных «недостаточно данных» выросла, а выдумок — упала. Пользователям спокойнее с честной моделью.
Комментарии