Исследователи Unit 42i описали новую схему мошенничества под названием phantom squattingi. Она построена на том, что LLM при галлюцинациях выдумывают несуществующие ссылки не случайно, а по определённым внутренним паттернам — разные модели на один и тот же запрос часто «придумывают» один и тот же фейковый URL.
Злоумышленники прогоняют через нейросети тысячи запросов, выявляют, какие домены модели генерируют чаще всего, и регистрируют эти адреса на себя ещё до того, как это сделает кто-то другой. Дальше на таких доменах разворачивают фишинг и раздачу троянов и кейлоггеров — пользователи, которым LLM подсунула такую ссылку, сами приходят на вредоносный сайт.
ВыводUnit 42 прогнали через LLM 685 тысяч запросов, касающихся 913 известных брендов
685 тысячзапросов, прогнанных через LLM в исследовании
2,1 миллионассылок, выданных нейросетями
250 тысячсвободных выдуманных доменов для фишинга