Один энтузиаст собрал кластер для инференса DeepSeek V4 Flash-0731 на 16 потребительских RTX 5060 Ti. Через два PLX-свитча и кастомные оптимизации (all-reduce, DSpark, патч BAR1) добился 130-150 токенов/с. Prefill при этом разгоняется до 4000 pp. Вся сборка обошлась примерно в 0.6 стоимости одной RTX6000 Pro. При этом при 8 конкурентных пользователях speedup достиг 2.98x. Звучит как заявка на паритет с серверными решениями. Но есть нюанс: патченный unsigned драйвер, отключённый PCI memory decoding для BAR1 и кастомный vibe coding вместо документации. В production такое не пойдёт без доработки. Что это значит: потенциально дешёвая альтернатива для локального инференса больших моделей — если готовы к танцам с бубном вокруг драйверов и стабильности.