IFM выложила на Hugging Face K2-Horizon-MoVA-36B-A4B: sparse-модель с 36 млрд параметров, которая при 4 млрд активных обходит MoE-модели до 15× крупнее. Главное: • 36B параметров, 4B активных на токен (архитектура A4B) • 524 288 токенов нативного контекста • Уровень frontier при 4 млрд активных параметров • Превосходит модели до 15× крупнее на агентации и рассуждениях Бенчмарки упомянуты как внешняя ссылка — конкретные числа в посте отсутствуют. Что это значит: MoE с sparse-активацией, которая при 4 млрд активных параметров дотягивается до frontier и при этом открыта.