Polymathic AI, исследователи Принстетонского университета и USC ISI выпустили FlashMap: инструмент формирует 16 токенов за проход и ускоряет декодирование Qwen3-8B до 6,14 раза. Что внутри. FlashMap работает как инструмент спекулятивного декодирования. За один проход он черновым способом формирует сразу 16 токенов, а на Qwen3-8B разработчики получили максимальное ускорение в 6,14 раза без потери качества результата. Выигрыш приходится именно на этапе генерации текста, поэтому инструмент может заметно сокращать время ответа модели. Оговорка. Для замера не указаны условия, конфигурация оборудования и методика измерения ускорения. Что это значит: если ускорение повторится на других моделях, FlashMap сможет заметно сокращать время генерации текста без потери качества.