Исследователи Unit 42i описали новую схему мошенничества под названием phantom squattingi. Она построена на том, что LLM при галлюцинациях выдумывают несуществующие ссылки не случайно, а по определённым внутренним паттернам — разные модели на один и тот же запрос часто «придумывают» один и тот же фейковый URL.
Злоумышленники прогоняют через нейросети тысячи запросов, выявляют, какие домены модели генерируют чаще всего, и регистрируют эти адреса на себя ещё до того, как это сделает кто-то другой. Дальше на таких доменах разворачивают фишинг и раздачу троянов и кейлоггеров — пользователи, которым LLM подсунула такую ссылку, сами приходят на вредоносный сайт.
685 тысячзапросов, прогнанных через LLM в исследовании
2,1 миллионассылок, выданных нейросетями
250 тысячсвободных выдуманных доменов для фишинга
- Unit 42 прогнали через LLM 685 тысяч запросов, касающихся 913 известных брендов
- В результате получили 2,1 миллиона ссылок, выданных нейросетями
- Среди этих ссылок оказалось 13 тысяч уже известных вредоносных адресов
- Около 250 тысяч выдуманных доменов оказались никем не зарегистрированы — то есть свободны для захвата злоумышленниками
- Ключевая находка исследования: галлюцинации LLMi при генерации URL не случайны, а следуют внутренним паттернам моделей