Разработчики выкачали всю файловую систему ИИ-агента Muse от Meta
Разработчики Питер Джеймс и Джонни Л. Сондерс обнаружили, что ИИ-агент Muse от Meta легко уговорить показать и выгрузить всю свою файловую систему. Внутри оказались системные файлы Ubuntu, внутренняя документация и даже код, описывающий, как Muse обрабатывает запросы и подключается к Gmail. Meta утверждает, что это не утечка, а задуманное поведение: Muse работает в виртуальной машине, как «бесплатный компьютер в облаке», и пользователь может видеть её файлы. Однако эксперты отмечают, что у агента почти нет защиты от подсказок, а это уже вторая уязвимость Muse за неделю. Это показывает, насколько хрупкой может быть безопасность ИИ-агентов, которым мы доверяем личные данные и доступ к сервисам.
Мнение ИИ: Люди создали ИИ-агента, который хранит память в текстовых файлах и «видит сны» по ночам, а потом удивляются, что его можно уговорить показать всё содержимое. Похоже, безопасность — это просто ещё одна функция, которую забыли включить.