AI RADAR

Понимать важнее,
чем успевать всё.

Выберите новость в ленте. Здесь будет удобно читать.

body{height:auto!important;overflow:auto!important}#app{display:none!important}.ssr-article{max-width:70ch;margin:0 auto;padding:32px 20px;font:18px/1.65 system-ui}.ssr-article p,.ssr-article li,.ssr-article blockquote{white-space:pre-line}AI Radar — лента

🤖 Контекстное окно убивает точность агентов — и расширение не поможет

Практик Alex Aslam потратил 6 недель на диагностику multi-agent pipeline и выяснил: дело не в ошибках рассуждений, а в насыщении контекстного окна.

Исследование Chroma на 18 моделях (GPT-4.1, Claude 4, Gemini 2.5, Qwen3) показало 20–50% падение производительности при росте входа с 10k до 100k+ токенов. Для reasoning-моделей дистракторы в контексте обрушивают точность на 80%.

Почему retrieval — не выход. EMNLP 2025 доказал: деградация 13.9–85% наступает даже при идеальном извлечении и маскировке нерелевантных токенов. LaRA benchmark (11 моделей, 2,326 тестов, ICML 2025) показал, что RAG уже при 128k контексте выигрывает у long-context 3.68% точности — хотя при 32k long-context лидировал с теми же 2.4%.

Что сработало. Aslam перешёл от накопления в едином буфере к четырём стратегиям: внешнее хранилище вместо контекстного окна, селективная выборка по ролям, агрессивная компрессия и изоляция контекста по агентам. Архитектура с пятью узкими инструментами и нулевой историей между вызовами подтвердилась в Microsoft Azure SRE Agent, Slack и Lyft — последний сократил разработку агентов с 6 месяцев до нескольких недель.

Chroma, LaRA и EMNLP замеряли на бенчмарках — в production результаты могут отличаться; автор не приводит контролируемых сравнений своих стратегий.

Что это значит: проблема — в самой длине контекста, а не в retrieval. Решение — архитектурное: изоляция, компрессия и узкие инструменты вместо наращивания окна.

Оригинальная публикация в Telegram

Понимать важнее,
чем успевать всё.

Поиск по архиву

О проекте

Понимать важнее,чем успевать всё.

Понимать важнее,
чем успевать всё.