AI Radar — лентаPerplexity обновила эмбеддинги: теперь ищут в PDF как в картинках
Perplexity выкатила pplx-embed-v2-late — пару late-interaction моделей (0.6B и 9B), которые кладут текст, картинки и отрендеренные страницы PDF в одно embedding-пространство.
9B-версия набирает 92.4% на MADQA — это новый SOTA среди ритриверов.
Технология. Вместо одного вектора на документ модель генерирует 128 измерений на каждый токен — как ColBERT, только с мультимодальностью. Обучение на 186 млн пар запрос-документ. Главное: можно искать текстом по картинкам и наоборот, без OCR. Индекс 9B при этом остаётся в разы компактнее, чем у dense-моделей с их 2048–4096 измерениями на токен.
Edge-часть. Маленькая 0.6B-модель (~240 млн активных параметров для текста) тянет запросы к индексу от старшей 9B — и восполняет примерно половину отставание в качестве. На BrowseComp+ 9B обходит лучший dense-модель на 8.7 п.п., а асимметричный конфиг (маленький запрос, большой индекс) добавляет ещё 1.6 п.п. на доменных бенчмарках.
Все цифры — внутренние замеры Perplexity. Независимой оценки пока нет, как и полного технического отчёта.
Что это значит: Perplexity стала всерьёз претендовать на место в RAG-пайплайнах: модель ищет в PDF без OCR, влезает в edge-устройства и при этом обходит открытые решения на реальных задачах.
Оригинальная публикация в Telegram