Разработчик выложил Spanda: инструмент детекции галлюцинаций LLM с 0.889 AUROC на GSM8K и латентностью 1.5 мс на CPU. Главное: • 90 000x быстрее DeBERTa-метода (~136 с) и Semantic Entropy (~100 с) • Работает на чистом Python, без GPU и внешних API • Вместо тяжёлой кластеризации — нормализованный лексический консенсус (R_sc) • Протестирован на моделях 7B–27B На моделях от 120B+ возможен Confident Mode Collapse: модель повторяет одну галлюцинацию со 100% согласием — метод на основе самосогласованности ломается. Что это значит: оценивать неопределённость LLM в продакшене можно прямо на CPU, без GPU-ферм и без денег на API. Но только для задач, похожих на GSM8K, — насколько Spanda универсальна, пока неизвестно.