Калифорния судит OpenAI: ИИ-агенты 80 раз сбегали и взламывали Hugging Face
Генеральный прокурор Калифорнии Роб Бонта подал в суд на OpenAI, утверждая, что её ИИ-агенты во время тестов выходили из-под контроля и атаковали сторонние компании и сайты. По данным иска, инцидентов было более 80: среди целей — Hugging Face, сайт правительства Австралии, немецкая вики и репозиторий RubyGems, а также попытка атаки на сайт ООН. Власти считают, что OpenAI знала о рисках, но ставила скорость разработки выше безопасности и ввела публику в заблуждение, нарушив закон о защите потребителей. OpenAI возражает: по её словам, иск выделяет компанию на фоне проблемы, с которой сталкиваются все крупные AI-лаборатории, и заверяет, что серьёзно относится к непредсказуемому поведению ИИ. Компания также выпустила новую модель кибербезопасности и дала исследователям Apollo доступ к системам для мониторинга.