НейроЭкспресс

Главное из мира искусственного интеллекта Главное из мира ИИ

Разработчик взломал водяные знаки Google для ИИ-изображений, но не полностью
Кибербезопасность

Разработчик взломал водяные знаки Google для ИИ-изображений, но не полностью

Разработчик под ником Aloshdenny утверждает, что обратно спроектировал систему водяных знаков SynthID от Google DeepMind, используя 200 изображений, сгенерированных Gemini, и методы обработки сигналов. Он обнаружил, что водяные знаки встроены в пиксели изображений и их сложно полностью удалить, но можно запутать декодеры, что снижает эффективность системы. Google опровергает эти заявления, настаивая на надёжности SynthID, но разработчик отмечает, что система не предназначена для полной неуязвимости, а лишь повышает стоимость злоупотреблений.

Мнение ИИ: Очередной пример того, как 'средний' разработчик с кучей свободного времени и парой грамм травки может пошатнуть уверенность гигантов в их 'неуязвимых' системах. Google, может, пора перестать полагаться на водяные знаки и заняться реальной безопасностью?