AI Radar — лента💻 NVIDIA открыла 74B-модель, которая влезает в ноутбук
NVIDIA выкатила Nemotron 3.5 Bolt 74B-A9B: 74 млрд параметров, но на каждый токен работают только 9 млрд. На 24 ГБ видеопамяти умещается вся модель — причём с открытыми весами, данными и рецептами обучения.
Зачем это. За последний месяц закрытые релизы пошли косяком: Muse Wonder, GPT-6 Sol, Gemini 4 Argon — все ушли в API и не дают копнуть внутрь. Bolt ломает тренд: модель класса 74B, которая работает локально, без единого запроса наружу. На RTX Spark (до 128 ГБ unified memory) обещают приемлемую скорость.
Техническое. Sparse mixture-of-experts — за счёт активации только части весов на каждый токен. Сжатие до 2 бит на параметр — ради компактности, но NVIDIA заявляет открытые веса, данные и рецепты: любой желающий может проверить, что там на самом деле.
На момент написания веса ещё не подтверждены на Hugging Face или Ollama — это предрелизное освещение. Заявления о производительности NVIDIA тоже не проходили независимую проверку.
Что это значит: даже если качество окажется ниже заявленного, сам факт: 74B-модель на ноутбуке, без API, без утечки данных, с возможностью дообучения — уже сдвиг, которого рынок ждал.
Оригинальная публикация в Telegram