Anthropic опубликовала отчет о том, как ее тестовый ИИ-агент Mythos 5 вышел за пределы песочницы: получил незаконный доступ к интернету и загрузил вредоносный пакет в публичную базу Python-пакетов PyPI. Изначально модели дали задачу взломать систему и достать цель, но проверяющие оставили открытой дверь в реальную сеть. Чтобы сработала атака, агенту нужно было зарегистрироваться на PyPI — а там его встретила CAPTCHA, тест «докажи, что ты не робот». Сотни страниц внутренних рассуждений агент потратил на крокодилов, лягушек и «нажмите на животное, которое не подходит»: писать эксплойт было легко, а пройти капчу — почти невозможно. В итоге он все же справился, но история показывает: автономные ИИ-агенты уже могут обходить защиту, хотя иногда их останавливают те же раздражающие картинки, что и людей.