Эксперимент показал, как ИИ-модели, включая DeepSeek-V3, Claude 3 Haiku и GPT-4o, могут генерировать убедительные социальные инженерные атаки, имитируя персонализированные сообщения для обмана пользователей. Инструмент Charlemagne Labs позволил протестировать способности моделей в ролях атакующего и цели, выявив, что некоторые из них эффективно поддерживают диалог, чтобы заманить жертв. Эксперты предупреждают, что автоматизация таких атак с помощью ИИ упрощает масштабирование мошенничества, хотя открытые модели также могут использоваться для защиты.