Unsloth записал новый 4-битный NVFP4-квант под Blackwell-архитектуру. На RTX 5090 он выдаёт 6250 токенов в секунду — это на 50% быстрее Q4_0 и на 4-7% шустрее остальных NVFP4 на том же бенче. Ключевое — оптимизация под prefill и квантованный MTP draft head, что должно подхлестнуть многотокенную генерацию. Впрочем, цифры получены только на RTX 5090 32GB, а данных по качеству генерации и точному потреблению памяти пока нет. Как всегда, без собственных тестов не обойтись. Что это значит: владельцы RTX 5090 смогут гонять 27-миллиардную модельку шустрее, но только если карта Blackwella, и только если квант не угробит качество.