Aleph Alpha выкатила Kolibri — разреженную MoE-модель с 78,1 млрд параметров, но на каждый токен активируется лишь 3,46 млрд. Железо: один B200 или H200. Окно — 1 млн токенов. Лицензия Apache 2.0. Что внутри. Sparse Mixture-of-Experts. Идея в том, что большая часть весов «спит», а при запросе просыпаются только нужные эксперты. Из 78 млрд параметров работают 3,46 млрд — экономия на вычислениях без потери объёма. Модель билингвальная: только английский и немецкий, что для европейского рынка релевантно, но ограничивает применение. Важное. Apache 2.0 — коммерческое использование без ограничений, веса открыты. Это главное: запустить крупную модель на одном GPU и не платить за транзакцию. Бенчмарков нет: Aleph Alpha не показала замеров на стандартных задачах, поэтому о качестве модели судить пока нельзя. Чем именно отличается от конкурентов — непрозрачно. Что это значит: открытая крупная MoE-модель, которая реально влезает в одно GPU, — но без подтверждённого качества и с жёсткой привязкой к двум языкам.