Кто-то взял Qwen3-TTS 1.7B и заставил её работать на одном H100 так, что облако можно не арендовать. Десять запросов в секунду, менее 50 мс до первого звука — это быстрее, чем успеть моргнуть. При небольшой нагрузке цифры поднимаются до двадцати RPS всё с теми же сотней миллисекунд на старт. На RTX 4090 тоже выходит около полусотни миллисекунд, но придётся покрутить параметры — автор не уточняет какие. Автор проекта — /u/Forsaken_Goal3692 — утверждает значительный отрыв от vLLM-Omni и SGLang-Omni, но точных цифр не приводит. Исходный код открыт, так что проверить можно самостоятельно. Что это значит: любой желающий теперь может развернуть быстрый синтез речи у себя — без зависимости от облака и без ущерба для скорости.