NVIDIA сообщила, что GPU Blackwell обеспечивают до 8x более быструю генерацию токенов в режиме Ultrafast для GPT-6 Astra по сравнению со стандартным режимом. Что это даёт. Ускоренный инференс напрямую сокращает циклы edit-test-debug для агентов, пишущих код, и делает интерактивные приложения отзывчивее за счёт меньшей задержки между вызовами инструментов. Детали. Оптимизация на уровне инференса реализована совместно OpenAI и NVIDIA. Режим Ultrafast доступен только для eligible пользователей ChatGPT Work и Codex. Никаких абсолютных значений latency или throughput NVIDIA не привела. Оценку прироста дала сама NVIDIA — OpenAI использует собственные модели для оптимизации инференса, что может влиять на объективность цифр. Что это значит: Железо начинает реально влиять на скорость AI-агентов — и это не маркетинг, а конкретный режим с измеримым эффектом, пусть пока и не для всех.