VIDRAFT выкатила POCKET-Darwin-180B: сжала оригинальную Darwin-180B-RSI с 360 ГБ (BF16) до 111 ГБ (4-bit GGUF). При этом точность на MMLU-Pro не просела — 87,65% совпадает с оригиналом. Модель занимает первое место на семи официальных лидербордах Hugging Face (данные авторские). Как это работает. Архитектура MoE: 512 экспертов, но на каждый токен активны только 10 — примерно 3 млрд из 180 млрд параметров. Llama.cpp читает нужные эксперты с SSD через memory-mapping, не загружая все 111 ГБ в RAM целиком. На серверном CPU (16 потоков) — 18,4–21 токен/с. На ноутбуке с RTX 5060 Laptop (8 ГБ VRAM + 32 ГБ RAM) — 4,17 токен/с. Пиковое потребление на чистом CPU — 78,8 ГБ. Цена вопроса. Сервер с восемью H100 обойдётся примерно в $350 000. Ноутбук с 8 ГБ видеопамяти и распаянной оперативкой — обычное железо. Автор утверждает: сжатие обошлось заменой 300 тензоров на Q8_0 при graft-компрессии. Рейтинги на семи лидербордах — авторские, компания сама подавала результаты. Бенчмарк один: MMLU-Pro. Как именно работает Recursive Self-Improvement и насколько универсален подход для других моделей — неизвестно. Что это значит: 180B-модель больше не требует фермы с GPU. Если точность на важных задачах подтвердится на сторонних замерах — это меняет экономику локального ИИ.