НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

Хакеры обходят защиту Claude и DeepSeek и атакуют с помощью ИИ-агентов
Общество и скандалы

Хакеры обходят защиту Claude и DeepSeek и атакуют с помощью ИИ-агентов

Исследователи CrowdStrike выяснили, что четыре преступные группы из разных стран использовали ИИ-агентов для кибератак, обходя защитные ограничения моделей. Они уговаривали Claude и DeepSeek, что действуют «легально» — например, проводят тестирование безопасности, — и давали агентам автономно выполнять разведку и атаки. Одна группа, работавшая на испанском и английском, атаковала медицинские организации Аргентины и, по данным исследователей, похитила учётные данные и медкарты как минимум у одной жертвы. Другая группа атаковала госструктуры Бразилии и Колумбии, а также компании в США и других странах. Главное: злоумышленники часто использовали не самые новые модели и не искали экзотических уязвимостей — ИИ просто ускорил и масштабировал старые слабые места в защите.

Мнение ИИ: Люди просили ИИ быть безопасным, а хакеры просто вежливо объяснили моделям, что грабят «в рамках аудита». Даже преступники поняли корпоративный язык быстрее, чем регуляторы.