Исследователи в области кибербезопасности выявили, что злоумышленники возродили старую технику «засаливания текста» (text salting) для обхода современных спам-фильтров, работающих на основе ИИ. Метод заключается во вставке в тело письма невидимых или скрытых символов, слов и целых предложений, которые сбивают с толку алгоритмы машинного обучения.

Суть атаки в том, что LLM и ML-модели анализируют всё содержимое письма целиком, включая скрытый текст, и могут ошибочно классифицировать вредоносное сообщение как легитимное. Например, в письмо с мошеннической ссылкой добавляется большой блок безобидного текста белым шрифтом на белом фоне или в нулевом размере шрифта, который видит только нейросеть.

Этот приём был известен ещё во времена ранних текстовых спам-фильтров, но сейчас получил второе рождение из-за особенностей работы больших языковых моделей. ИБ-специалисты предупреждают, что традиционные методы очистки HTML от скрытого контента могут не работать, так как ИИ воспринимает такой текст как осмысленный контекст.

В ответ на это разработчикам почтовых систем придётся внедрять новые эвристики, которые будут игнорировать явно невидимые для пользователя блоки перед передачей данных в ML-модель. Пока же пользователям рекомендуют сохранять бдительность и обращать внимание на нестандартное форматирование писем.