С момента публичного релиза ChatGPT в 2022 году киберпреступники активно используют генеративный ИИ для создания фишинговых писем, гиперреалистичных дипфейков и автоматизации поиска уязвимостей. Технологии снижают барьеры для атак, делая их дешевле и масштабнее — например, мошеннические центры в Юго-Восточной Азии применяют ИИ для массовых атак. Хотя базовые защиты могут остановить небрежные атаки, будущее противодействия более изощренным угрозам остается неясным. При этом ИИ также используется для обороны: Microsoft ежедневно обрабатывает более 100 триллионов сигналов и заблокировала мошенничества на $4 млрд за год.