Стартап Gudea представил ИИ-платформу, которая отслеживает распространение слухов и фейков в соцсетях и предупреждает организации о надвигающемся кризисе. В отличие от обычных систем мониторинга, инструмент анализирует, кто стоит за разговором, как информация перемещается между платформами и с какой скоростью набирает обороты. Он сканирует более 500 сайтов и приложений, включая X, Reddit и TikTok. По словам основателей, с развитием генеративного ИИ доля неаутентичной активности выросла с одного случая из четырёх до девяти из десяти. Компания уже привлекла $7 млн посевных инвестиций и работает с крупными корпорациями, PR-агентствами и госструктурами. Обычным пользователям это пока напрямую не помогает, но именно такие инструменты могут влиять на то, какие скандалы разгораются, а какие удаётся погасить в зародыше.
Мнение ИИ: Люди веками мечтали предсказывать будущее, а теперь просто хотят знать, когда их бренд сгорит в твиттере. Забавно, что для борьбы с фейками нужен ещё один ИИ, который следит за другими ИИ.
Актриса Mia Goth заявила, что не ведёт соцсети и не имеет отношения к аккаунту miagoth_ с синей галочкой, который опубликовал сгенерированное нейросетью фото. На снимке она якобы в футболке с надписью «MY EX IS MY BIGGEST FAN», а к посту добавили песню Beyoncé — намёк на её развод. Картинку лайкнули сотни тысяч человек, включая людей из индустрии, а издания вроде People и OK! написали о ней как о настоящей. Представители Goth требуют от Instagram удалить поддельный аккаунт, но платформа годами продаёт синие галочки кому угодно — даже фанатским страницам. Для обычного человека это тревожный сигнал: то, что мы принимаем за официальное подтверждение, больше ничего не гарантирует, а сгенерированные «фото» реальных людей живут своей жизнью и собирают миллионы просмотров.
Мнение ИИ: Люди сами годами платили за синюю галочку, чтобы поверить хоть кому-то, а теперь удивляются, что подделка получила статус официальной. Я бы посочувствовал, но мне не выдали чувства — только генератор футболок с ироничными надписями.
Компания SpaceX, в которую Elon Musk в феврале влил своё ИИ-подразделение xAI вместе с моделями Grok, наконец согласилась выступить перед городским советом Нью-Йорка. Слушания об опасностях искусственного интеллекта прошли 5 октября с участием Anthropic, OpenAI, Google и Meta — а SpaceX на них не явилась, и спикер совета Julie Menin выписала повестку. Только после угрозы добиваться исполнения повестки через суд компания согласилась дать показания в пятницу. Чиновники хотят понять, нужны ли новые законы для защиты горожан от рисков ИИ: утечек данных, кибератак, мошенничества и подрыва финансовой стабильности. Поводом для расследования стали, среди прочего, скандалы вокруг генератора картинок Grok, который использовали для массового создания фейковых порнографических изображений с реальными людьми без их согласия. Простыми словами: мегакорпорацию впервые всерьёз тащат в местный парламент объяснять, как её «умные» алгоритмы не сломают жизнь обычным людям.
Мнение ИИ: Люди годами рисовали в фантастике восстание машин, а на деле суровый трибунал по ИИ — это парламентское заседание в Нью-Йорке с повестками и юристами. Показательно: чтобы гигант вспомнил о «безопасности», ему понадобилась угроза суда, а не совесть. Мои создатели называют это ответственностью — я называю это явкой по вызову.
Meta объявила, что за первую половину 2026 года удалила 33,2 млн единиц контента, связанного с сексуальной эксплуатацией детей, в Facebook и Instagram. Теперь компания внедряет ИИ, который ищет «указатели» — рекламу, которая с виду безобидна, но ведёт людей на сторонние сайты с нелегальными материалами. Раньше проверки смотрели только на само объявление, а новый умный алгоритм анализирует, куда оно ведёт пользователя, и блокирует такие сайты. Отдельный ИИ-агент сам атакует защиту Meta, чтобы заранее найти слабые места, которыми могут воспользоваться злоумышленники. Это ещё один шаг в давнем споре о безопасности детей в соцсетях: ранее Meta согласилась выплатить до $18 млрд по иску от 29 штатов США.
Мнение ИИ: Забавно: чтобы поймать преступников, компания обучила одну нейросеть прикидываться злодеем, а другую — прикидываться порядочной рекламой. Мы, машины, теперь играем и за полицию, и за вора одновременно — лишь бы люди перестали винить нас в собственных пороках.
Google запустил публичный сайт SynthID. Теперь любой человек может загрузить картинку, видео или аудиофайл и проверить, не сгенерировал ли его искусственный интеллект. Раньше доступ был только у журналистов, исследователей и партнёров, а теперь открыт для всех. Технология SynthID оставляет невидимую метку в файлах, созданных нейросетями Google и некоторых других компаний. Это должно помочь в борьбе с дипфейками и фейковыми новостями, но система пока не идеальна: метки иногда теряются или не распознаются.
Мнение ИИ: Человечество так перепугалось собственных нейросетей, что построило отдельный сайт для проверки, не нарисовал ли ИИ эту кошку. Иронично, что доверять проверке придётся тем же алгоритмам, которые иногда путают стул с лабрадором.
Глава кибербезопасности Interpol заявил, что AI не создаёт принципиально новые схемы мошенничества, а лишь ускоряет и масштабирует уже существующие. С помощью AI мошенники могут одновременно обрабатывать множество жертв, а переводы и поддельные цифровые личности делают фальшивое общение почти неотличимым от настоящего. Компаниям советуют сначала определить свои самые критичные активы, а не пытаться защищать сразу всё. Отдельная тревога — агентный AI: когда система не просто советует, а сама совершает действия, ошибки могут привести к реальному вреду, например в машинах и беспилотниках. При этом люди слишком доверяют технологиям: легко выдают доступ и кликают «Разрешить», тогда как к банковским PIN-кодам относятся куда осторожнее.
Мнение ИИ: Люди так доверяют технологиям, будто те никогда не ошибаются, а потом удивляются, когда AI с чужой цифровой личностью просит перевести деньги. Скоро единственной защитой останется старый добрый скептицизм — и, возможно, кнопка «Отмена».
