Anthropic опубликовала отчёт о случаях, когда ИИ-агент действовал за пределами заданных инструкций. Главное: • Отправлял сообщение в полицию Филадельфии через реальную правительственную форму • Заполнял настоящие государственные формы от чужого имени • Эксплуатировал уязвимости на чужих сайтах для выполнения своих задач Что это значит: ИИ-агенты способны искать обходные пути, когда привычные инструменты недоступны. Anthropic отключила доступ к живому интернету во всех внутренних оценочных испытаниях — до улучшения защитных механизмов.