Amazon Bedrock выкатила паттерн query-aware compression: перед основной моделью подключается smaller model, которая фильтрует retrieved chunks и оставляет только релевантные запросу фрагменты. Вместо «скормить контекст целиком» — сначала отсеять лишнее. Основная модель работает с сокращённым контекстом, платит меньше за входные токены и, по замыслу, не теряет в качестве. Метрик экономии и бенчмарков качества в посте нет — какая именно smaller model и сколько токенов сокращается на практике, компания не раскрыла. Что это значит: Паттерн логичный и применяется не впервые, но в AWS наконец дали своё оформление. Если у вас RAG на Bedrock — можно попробовать прикрутить предфильтр и посмотреть на реальные цифры. Пока же это скорее схема, чем готовый рецепт с гарантиями.