Долгое время в vLLM был свой бэкенд для инференса и отдельно — медленный transformers-вариант, который никто не хотел использовать. Теперь это в прошлом. Команда vLLM переписала оптимизации: параллелизация, компиляция, fused kernels — всё заточено так, что transformers-бэкенд теперь работает нативно или быстрее нативного кода. 450+ архитектур поддерживаются из коробки. Запустить любую модель из Hub через новый бэкенд можно одной строкой — добавить флаг --model-impl transformers. Без портирования, без боли. Тестировали на Qwen3: от 4B до 235B MoE, вплоть до 8×H100 на борту. Всё крутится без проблем. Мелочь, но приятная: авторы моделей теперь могут оставить свой код в transformers и не тратить время на адаптацию под vLLM. Что это значит: единый фреймворк для всех моделей без потери скорости — больше не надо выбирать между удобством и перфомансом.