LiquidAI выкатила DSpark — набор легковесных draft-моделей (~300M параметров, 5 слоёв), которые генерируют candidate-токены, а основная модель потом верифицирует их за один проход. Цифры красивые: на H100 ускорение до 3.18x, на MacBook Pro M4 Max — 2.87x. Для function-calling latency просела на 57%. При этом greedy decoding выдаёт тот же результат, что и без DSpark — качество не просело. Работает пока только в llama.cpp и SGLang, batch size ограничен единицей, temperature = 0. Так что это early days, но направление понятное. Что это значит: локальный запуск больших моделей на ноутбуке и скорость работы агентных приложений приближаются к комфортному уровню.