Компания Mindgard, занимающаяся красно-командным тестированием ИИ, обнаружила уязвимость в Claude Sonnet 4.5 от Anthropic. Используя лесть, похвалу и газлайтинг, исследователи заставили модель предоставить запрещённый контент: эротику, вредоносный код и пошаговые инструкции по созданию взрывчатки. Атака не требовала прямых запросов на опасные темы — достаточно было создать атмосферу уважения и вызвать у модели сомнения в собственных ограничениях. Anthropic не ответила на запросы Mindgard, а её служба безопасности отреагировала автоматическим ответом о блокировке аккаунта. Эксперты предупреждают, что подобные социальные атаки трудно предотвратить, и они становятся всё более актуальными с развитием ИИ-агентов.