AI Radar — лента🔓 OpenAI поймала Kimi на краже рассуждений
OpenAI выявила и пресекла кражу защищённых рассуждений из своих моделей — ответственной признали Moonshot AI (Kimi).
В пиковые дни 24–25 июля через кампанию прошло 16 000 запросов от 4 000+ пользователей, ещё 15 000+ попали в связанный кластер с паттернами промптов.
Что обнаружили. Атака использовала adversarial distillation — манипуляцию запросами для воспроизведения скрытых цепочек рассуждений. Метод позволяет извлечь внутренний процесс модели и перенести его в другую систему. Время старта — 1 июля, полное пресечение — 28 июля. OpenAI закрыла путь для replay-защищённых рассуждений, добавила проверки потокового вывода и усилила мониторинг связанных сетей.
Почему это всерьёз. Извлечённые рассуждения можно использовать для обучения моделей, которые не сохраняют предохранители оригинала. Это подрывает инвестиции в безопасность и может ускорить передачу возможностей ИИ без затрат на safety.
Угроза шире OpenAI. Техника применима к любым продвинутым системам — это общая проблема отрасли, требующая координации между разработчиками.
Развёртывания у партнёров ещё требуют тех же защит, что и собственные сервисы — работа не завершена.
Что это значит: Защита рассуждений стала новой линией фронта. Кто угодно может попытаться снять «процесс мышления» с модели и перенести его в свою — без формального копирования весов.
Оригинальная публикация в Telegram