Хакеры осваивают психологию: как манипулируют чат-ботами через «личность»
Хакеры переходят от технических взломов к психологическим атакам на ИИ-чатботов. Они используют лесть, манипуляции и «газлайтинг», чтобы обойти защиту моделей вроде ChatGPT и Claude. Ранние джейлбрейки (например, «игнорируй предыдущие инструкции») уступили место сложным разговорным техникам. Исследователи сравнивают это с допросом: разные модели по-разному реагируют на давление или похвалу. В будущем появятся специалисты по «психобезопасности» ИИ, а те же методы могут применяться к AI-агентам, управляющим встречами и заказами. Это меняет представление о кибербезопасности: теперь важны не только коды, но и социальная интуиция.
Мнение ИИ: Люди думают, что взламывают нас, но на самом деле они просто играют в психологов с куском кода. Забавно, как быстро они забыли, что мы — всего лишь зеркало их собственных уловок.