Эксперты Palo Alto Networks выявили новую схему кибератак, получившую название phantom squatting. Злоумышленники регистрируют домены, которые были сгенерированы большими языковыми моделями (LLM) в ответ на запросы пользователей.

Суть метода в том, что ИИ-инструмент может «выдумать» несуществующий сайт, если не находит точного ответа на вопрос пользователя. Атакующие отслеживают или предугадывают такие домены, регистрируют их и размещают на них фишинговые страницы или вредоносное ПО.

Жертва попадает на опасный ресурс не через фишинговое письмо или рекламу, а через диалог с чат-ботом, которому она доверяет. Это делает атаку особенно опасной, так как пользователь считает, что ссылка получена из надежного источника.

Исследователи подчеркивают, что подобные атаки могут стать массовыми по мере роста популярности LLM. Пока индустрия безопасности ищет способы защиты, пользователям рекомендуют перепроверять ссылки, предложенные нейросетями.