Пользователь замерил модель решений Laya (421M параметров, Convai) на NVIDIA GPU. H100 NVL выдаёт 175 решений/с при p99 ≤ 130 мс — это 15.1 млн решений в день. Qwen3.5 при ~190–200 решениях/с не проходит SLO из-за p99 ~1 с. Главное: • H100 NVL — 175 решений/с, p99 91 мс, $1.86/млн • RTX PRO 6000 — 146 решений/с, p99 111 мс, $0.66/млн • RTX PRO 5000 — 42 решения/с • Все 74 комбинации backend-устройство воспроизвели FP32-ответы одинаково Замеры проходили только на английской федеральной закупке SAM.gov — на других доменах результат может отличаться. Проверялась воспроизводимость, а не фактическая правильность ответов. Что это значит: специализированная модель решений укладывается в жёсткий SLO на одном GPU, а RTX PRO 6000 в 2.8 раза дешевле H100 при сопоставимой скорости. Для 1–10 млн решений/день настольный GPU экономичнее облака.