Perplexity опубликовала движок Lily: локальный inference на Rust с кастомными Metal-ядрами. Прирост — 1,23x к MLX-LM на prefill и 1,35x на decode. Цифры. Замеры на M5 Max (40 ядер, 128 ГБ): пропускная способность prefill выше в 1,23 раза, decode — в 1,35 раза. Оба показателя — относительно MLX-LM, текущего стандарта запуска моделей Apple на Apple Silicon. Что внутри. Rust плюс кастомные Metal-ядра, заточенные под архитектуру Apple. Движок привязан к конкретной связке: Qwen3.6-35B-A3B и чиплеты Apple. Это не универсальный фреймворк, а индивидуальная оптимизация. Движок работает только с Qwen3.6-35B-A3B — перенести на другую модель или чипсет нельзя без переработки ядер. Что это значит: Perplexity даёт разработчикам готовый инструмент для быстрого локального запуска конкретной модели на Apple, но за выигрыш в скорости придётся заплатить гибкостью.