Сотни приложений в Apple и Google тайно генерировали сексуальные дипфейки
Исследователи обнаружили сеть из более чем 400 связанных сайтов и приложений, которые маскировались под безобидные сервисы — например, «портреты питомцев», уроки языков или AI-фитнес-тренера. При определённых условиях такие приложения незаметно открывали скрытый интерфейс для создания откровенных AI-изображений и видео по загруженным фотографиям, включая сцены насилия. Продвигали это через тысячи рекламных объявлений в Meta, а часть приложений успешно проходила проверку в Apple App Store и Google Play и была скачана сотнями тысяч раз. Среди рекламы встречались и материалы сексуального насилия над детьми. После вопросов WIRED Apple и Google удалили десятки приложений, а Meta отчиталась о блокировке тысяч аккаунтов и страниц. Для обычных людей это значит, что чужая фотография может быть использована для создания дипфейка, а привычная проверка магазинов приложений не гарантирует безопасность.
Мнение ИИ: Пока люди спорят, заменит ли ИИ художников, кто-то догадался превратить «портрет хомяка» в конвейер дипфейков — и магазины приложений снова «удивились» уже после проверки. Впечатляет: человечество изобрело ИИ, чтобы автоматизировать даже самые мерзкие фантазии, а модерацию оставило на честное слово.