На Habr один автор провернул любопытную штуку: собрал полноценный корпоративный оркестратор на открытой модели среднего размера и запустил на одной потребительской видеокарте. Без кластера ускорителей, без десятков тысяч долларов в месяц на облако. Система сама понимает задачу, выбирает исполнителей, стучится в корпоративные системы, делает многошаговую работу и возвращает результат. На одном GPU. Проблема в том, что статья обрывается на постановке задачи. Никаких метрик, никакой видеокарты, никакой модели — только обещание. Остаётся непонятным, насколько это вообще работает. Но сама идея важна. Сбер, Яндекс, госкорпорации и оборонные подрядчики ищут способ обрабатывать данные без облака. Локальная модель по архитектуре закрывает утечку за периметр. Если автор доведёт дело до конца — получится инструкция для всех, кому облако запрещает служба безопасности.