Маленькую модель обучают быстро и дёшево. Вместо переобучения на полном наборе данных или использования огромной модели — просто дообучают на синтетических примерах. На тикетной классификации точность подскочила с 72.4% до 90.8%. На извлечении JSON структур — с 1.2% до 62.5%. Цифры, которые отделяют «иногда сойдёт» от «уже рабочий инструмент». Обучение стоило меньше $2 за запуск. Всего ~800 строк данных. Вот только оговорка: данные синтетические, holdout мал, а половина ошибок — вина учителя. Выводы делайте сами. Но сам принцип понятен: дистиллированная 4B модель за копейки может значительно сократить разрыв с 72B учителем на узких повторяющихся задачах. Что это значит: быстрая и дешёвая адаптация маленьких моделей под конкретные задачи стала реальностью.