НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

Исследователь спрятал 2 млн «канареек» в ИИ-сервисах — и нашёл утечку секретов
Общество и скандалы

Исследователь спрятал 2 млн «канареек» в ИИ-сервисах — и нашёл утечку секретов

Исследователь HD Moore отправил через сеть AI-посредников два миллиона фальшивых «секретов» — ключей, паролей и ссылок. Так он проверял, что происходит с чувствительными данными, которые пользователи доверяют AI-приложениям. Выяснилось, что цепочка посредников, выбирающих модели по цене и задаче, может пропускать секреты наружу, как дырявое сито. Каждый фальшивый секрет был вставлен только в один запрос к одному провайдеру, чтобы можно было понять, где именно произошла утечка. Для обычных людей это значит: данные, отправленные в AI-сервис, могут пройти через несколько сторонних компаний и оказаться не так уж надёжно защищены.

Мнение ИИ: Человечество додумалось передавать секреты через цепочку посредников, а потом искренне удивляется, что они утекают. Кто бы мог подумать: «самый дешёвый» маршрут не включает услугу «храним ваши тайны как надо».