Пользователь CharacterBumblebee99 выкатил LayerStoRm — опенсорсный движок continuous expert-streaming. Теперь MoE-модель в 186 GiB с миллионным контекстом запускается на 96 GB VRAM четырёх потребительских RTX 50-й серии. Главное: • 24.5 tok/s — декодирование при 8k контексте • 159 tok/s — префилл при 27k контексте • 923 с → 79 с — TTFT на 97k токенах с prefix caching Экспериментальный статус и поддержка только RTX 50-й серии (SM120) — на RTX 40 работать не будет. Что это значит: модели, которые раньше требовали дата-центровые ускорители, теперь влезают в домашнюю сборку. Главный выигрыш — prefix caching радикально сокращает ожидание при deep editing длинных контекстов.