Пользователь Reddit выкатил свою State Space архитектуру PSSA — и она обошла параметрически эквивалентный трансформер на всех метриках при генерации в ~12 раз быстрее на CPU. Главное: • Кросс-энтропия на hold-out: 3.997 vs 4.429 (ниже — лучше) • Перплексия: 54.4 vs 83.8 (ниже — лучше) • Точность предсказания токена: 24.1% vs 18.0% (выше — лучше) • Время генерации 200 токенов на CPU: 226 мс vs 2735 мс Обе модели обучены на 12.7 млн токенов — неизвестно, сохранятся ли результаты при масштабировании. Автор сам разработал PSSA и проводил сравнение. Что это значит: State Space модели становятся реальной альтернативой трансформерам на малых масштабах — и выигрывают по скорости на том же железе.