Датасет решает: как чистка 5000 примеров подняла качество больше, чем смена модели

Гонялся за модельками побольше, а прирост был грошовый. Оказалось, узкое место — грязный датасет для few-shot.

Выкинул дубликаты, противоречивые и просто кривые примеры, оставил 1500 чистых. Качество ответов подскочило заметнее, чем от апгрейда модели.

Скучная истина: данные важнее архитектуры. Потратьте день на чистку, а не неделю на тюнинг.