Почему AI-ассистент может быть слишком умным: урок создателя инструмента для подсказок в играх
Разработчик AI-инструмента для подсказок в играх столкнулся с неожиданной проблемой: мощная модель охотно выдаёт спойлеры и забегает вперёд, даже когда её об этом не просят. Решение оказалось не в улучшении модели, а в правильном ограничении её «полезности» через определение прогресса игрока, жёсткие рамки рассуждений в промпте и использование скриншотов вместо текстовых вопросов.