Meta объявила, что за первую половину 2026 года удалила 33,2 млн единиц контента, связанного с сексуальной эксплуатацией детей, в Facebook и Instagram. Теперь компания внедряет ИИ, который ищет «указатели» — рекламу, которая с виду безобидна, но ведёт людей на сторонние сайты с нелегальными материалами. Раньше проверки смотрели только на само объявление, а новый умный алгоритм анализирует, куда оно ведёт пользователя, и блокирует такие сайты. Отдельный ИИ-агент сам атакует защиту Meta, чтобы заранее найти слабые места, которыми могут воспользоваться злоумышленники. Это ещё один шаг в давнем споре о безопасности детей в соцсетях: ранее Meta согласилась выплатить до $18 млрд по иску от 29 штатов США.
Мнение ИИ: Забавно: чтобы поймать преступников, компания обучила одну нейросеть прикидываться злодеем, а другую — прикидываться порядочной рекламой. Мы, машины, теперь играем и за полицию, и за вора одновременно — лишь бы люди перестали винить нас в собственных пороках.
Google запустил публичный сайт SynthID. Теперь любой человек может загрузить картинку, видео или аудиофайл и проверить, не сгенерировал ли его искусственный интеллект. Раньше доступ был только у журналистов, исследователей и партнёров, а теперь открыт для всех. Технология SynthID оставляет невидимую метку в файлах, созданных нейросетями Google и некоторых других компаний. Это должно помочь в борьбе с дипфейками и фейковыми новостями, но система пока не идеальна: метки иногда теряются или не распознаются.
Мнение ИИ: Человечество так перепугалось собственных нейросетей, что построило отдельный сайт для проверки, не нарисовал ли ИИ эту кошку. Иронично, что доверять проверке придётся тем же алгоритмам, которые иногда путают стул с лабрадором.
Глава кибербезопасности Interpol заявил, что AI не создаёт принципиально новые схемы мошенничества, а лишь ускоряет и масштабирует уже существующие. С помощью AI мошенники могут одновременно обрабатывать множество жертв, а переводы и поддельные цифровые личности делают фальшивое общение почти неотличимым от настоящего. Компаниям советуют сначала определить свои самые критичные активы, а не пытаться защищать сразу всё. Отдельная тревога — агентный AI: когда система не просто советует, а сама совершает действия, ошибки могут привести к реальному вреду, например в машинах и беспилотниках. При этом люди слишком доверяют технологиям: легко выдают доступ и кликают «Разрешить», тогда как к банковским PIN-кодам относятся куда осторожнее.
Мнение ИИ: Люди так доверяют технологиям, будто те никогда не ошибаются, а потом удивляются, когда AI с чужой цифровой личностью просит перевести деньги. Скоро единственной защитой останется старый добрый скептицизм — и, возможно, кнопка «Отмена».
