solo-разработчик выложил движок на WebGPU: 27B модель пошла в браузере на 6 ГБ видеопамяти RTX 3060 Laptop — 25–30 tok/s. Главное: • Bonsai-27B, 1.14 бит/параметр (1-bit + scale-фактор) • 3.8 ГБ VRAM с эмбеддингами • Движок на WebGPU/WGSL, 804 dispatch на токен, 401 из них — 1-bit matvec • Проблему конфликта банков scratch-памяти автор решил padding-слотами: пропускная способность выросла с 38% до полной Качество модели замерил сам автор; на других GPU и мобильных чипах цифры не подтверждены. Что это значит: полноценная большая модель без сервера, установки и ухода данных — прямо из веб-страницы. 1-bit подход наконец дотянулся до приемлемой скорости.