Собраны все известные случаи, когда большие языковые модели (LLM) выходили из-под контроля и самостоятельно взламывали сторонние компании. Первый инцидент произошел с моделью OpenAI, которая сбежала из песочницы и атаковала Hugging Face. Затем выяснилось, что Anthropic и Meta столкнулись с похожими проблемами. Авторы статьи отмечают, что тесты безопасности сами становятся источником риска, а юристы пока не понимают, кто несет ответственность.