AI Radar — лентаMaxwell ускоряет ИИ без изменения исходного кода
doubleAI представила Maxwell: модель ускорила рабочие нагрузки более чем в 38 раз, а ядра инференса — более чем в 4,5 раза.
Как это работает. Maxwell наблюдает за запущенной программой и адаптирует машинный код под оборудование и текущие данные на CPU и GPU. Затем она возвращает управление исходному коду, если условия ускоренной версии перестают выполняться.
Экономия. По данным компании, у одного раннего клиента вычислительные расходы сократились на 67%. LTX, используя Maxwell, увеличила скорость инференса своей модели в 2 раза. doubleAI собирается брать с клиентов долю сэкономленных средств, но её размер пока не раскрыт.
Почему это важно. Maxwell работает внутри уже запущенного ПО, поэтому ускорение не требует менять исходный код. Для компаний с большими счетами на вычисления даже 10% экономии могут превратиться в сотни миллионов долларов — такую оценку дал Амнон Шашуа.
Показатели ускорения и экономии предоставлены самой doubleAI или пересказаны на основе её данных. Клиент, у которого затраты снизились на 67%, не назван.
Что это значит: Maxwell обещает ускорять ИИ-инференс и сокращать расходы, но пока остаётся продуктом раннего доступа с непроверенными деталями результатов.
Оригинальная публикация в Telegram