Спамеры переняли ASCII smuggling, ранее применявшийся для атак на ИИ

Суть метода проста. Вредоносные инструкции, которые попадают в языковую модель вместе с письмом или другим контентом, кодируются не обычными буквами, а особым диапазоном Unicode-тегов. Этот блок из 128 символов почти полностью повторяет стандарт ASCII, но с одним важным отличием: он читаем для компьютера и практически невидим для человека. Например, тег U+E0041 соответствует заглавной A, а U+E0061 — строчной a. Для обычного пользователя это просто пустое место, тогда как для ИИ — полноценная команда.

Долгое время ASCII-смагглинг считался экзотическим приемом, характерным для атак на AI-системы. Однако теперь его взяли на вооружение спамеры. Это показывает, как быстро инструменты, созданные для взлома искусственного интеллекта, адаптируются для совершения более приземленных преступлений, таких как массовые рассылки.