jingyaogong выложил MiniMind — 64M-параметровую модель, которую можно обучить с нуля за ~2 часа на NVIDIA 3090 за ~3 юаня. Кому пригодится. Исследователям и студентам, которые хотят понять, как LLM работает изнутри: в репозитории полный цикл — от токенизатора до предобучения, SFT, RLHF (DPO, PPO, GRPO), LoRA и дистилляции. Модель уступает современным решениям, заявленные 2 часа — только SFT-этап, а не полный цикл предобучения. Метрики качества и объём данных для предобучения не раскрыты. Попробовать: github.com/jingyaogong/minimind