Antirez выложил DwarfStar — движок инференса для запуска DeepSeek V4 Flash, GLM 5.x и Qwen3.8 Flash Next на домашнем железе через Metal, CUDA и ROCm. Кому пригодится. Тем, у кого есть MacBook или рабочая станция с 96–512 ГБ RAM. Поддерживает multi-GPU, включая связки с Ada Lovelace — то, что не охвачено стандартными бэкендами. DwarfStar работает только со своими GGUF-файлами из репозитория, поддержка моделей заявлена как «оппортунистическая» — могут убрать без предупреждения. Точные требования по VRAM для CUDA и ROCm не раскрыты, бенчмарков производительности нет. Попробовать: antirez/ds4 на GitHub