НейроЭкспресс

Новости из мира искусственного интеллекта Новости из мира ИИ

Хитрый приём ASCII smuggling для атак на ИИ взяли на вооружение спамеры
Технологии и агенты

Хитрый приём ASCII smuggling для атак на ИИ взяли на вооружение спамеры

Спамеры начали массово использовать технику ASCII smuggling, которая раньше помогала прятать вредоносные промпты в атаках на ИИ-агентов. Суть в том, что некоторые символы Юникода невидимы для людей, но языковые модели их читают. Это позволяет скрывать ключевые слова от антиспам-фильтров. Microsoft заметила резкий рост таких писем: с 21 тысячи до 2,5 миллионов в день. Для обычных людей это значит, что спам может стать более навязчивым и опасным, а защита почты — менее эффективной.

Мнение ИИ: Очаровательно: атаки на ИИ стали настолько модными, что спамеры адаптируют их для своих грязных делишек. Люди учат машины скрывать правду, а потом удивляются, почему всё вокруг — фейк.