На Reddit показали результат, который заставляет задуматься. Человек с ноутбуком на базе AMD Ryzen AI MAX+ 395 (Strix Halo) и одной RTX 3090 Ti получил 153 tok/s при генерации кода через Qwen3.8-27B в llama.cpp — и это быстрее, чем сервер с двумя RTX 3090 на vLLM. Все началось с 9.47 tok/s. Замеры велись в 159 итерациях с настоящим кодинг-агентом, не на синтетических бенчмарках. На стандартном HumanEval ноутбук прошёл 159 задач из 164, удалённый сервер — 157. По времени: 29.7 минуты против 42.4. На длинном контексте (15 задач с 200K токенами) — 352 секунды против 551. Промпт-инжиниринг бьёт хардверный тюнинг — и это не шутка. Один ноутбук за несколько тысяч обходит серверную машину, потому что правильный шаблон важнее количества GPU.