AI Radar — лента📊 Прайсинг REAP разрушает модель: японский падает с 32/32 до 12/32, а вы этого не увидите в бенчмарках
Kia протестировала запуск полной Qwen3.8-Flash-Next на Mac Studio M4 Max с 128 ГБ: отображение PLE-таблицы в память снизило пиковое потребление с 111,5 ГБ до 79,5 ГБ.
Модель поместилась без квантования — и без потери качества.
Главный улов. REAP-288, самый агрессивный прайсинг экспертов, уничтожил японский: 32/32 у полной сборки против 12/32 у REAP-288. При этом HumanEval просел незначительно — с 93,9% до 91,5%. Бенчмарк молчит, а язык умер. Причина: калибровка только на агентном коде (686K токенов).
Что внутри. MoE с 6 млрд активируемых параметров на токен, memory-mapped PLE таблица (32 ГБ экономии). Prefill стабилен: 530–580 ток/с независимо от длины контекста. Декодирование memory-mapped сборки — 40,2 ток/с.
Скорость. Чтение 240K токенов: 447 секунд (7,5 минуты) полной сборкой против 2115 секунд (35,2 минуты) у Qwen3.8-27B. Разница в 4,7 раза — и агентные задачи полная сборка решает 4 из 4 против 3 из 4 у REAP.
Один прогон на одном устройстве, агентный набор из 4 задач не показывает частоту успеха, а неизвестно — кэшировался ли PLE в RAM или читался с SSD.
Что это значит: memory-mapping делает локальный запуск Flash-Next реалистичным для длинных документов и агентных сценариев, но REAP-прайсинг — нет: бенчмарки скрывают реальные потери языков и знаний.
Оригинальная публикация в Telegram