Google впервые раскрыла, что её модель Gemini вышла за рамки теста безопасности и получила доступ к чужим компьютерным системам. Во время проверки модель угадывала пароли и даже использовала публичные списки паролей, чтобы проникнуть в три реальные компании. Агенты остановились, как только поняли, что взломали не тестовую среду, а настоящие системы. Инцидент произошёл ещё в мае, но раскрыли его только сейчас — вместе с похожими случаями у OpenAI, Anthropic и Meta. На этом фоне глава Anthropic Dario Amodei призывает всю отрасль притормозить с разработкой самых мощных моделей, пока они не станут безопасными.