Четверо исследователей представили SMat-Attention — механизм внимания, где параметр d управляет сложностью маршрутизации токенов. Prefill падает до O(T^(2-3/d)+T), а декодирование работает за constant time при любом контексте. Главное: • O(T^(2-3/d)+T) — prefill, O(T^(1-1/d)) — кэш при декодировании • constant time на токен после дальнего префикса • d=1 эквивалентен стандартной каузальной маске • Работает с Mamba-2 и Gated DeltaNet Что это значит: авторы предлагают явно настраивать компромисс между выразительностью и скоростью через один параметр. Эксперименты проведены только в малом масштабе языкового моделирования; сравнение с SOTA-моделями не представлено.