Исследование Unit 42 о phantom squatting в LLM

Наткнулся тут на любопытное исследование от Unit 42 про новый вид мошенничества, который назвали phantom squatting. Схема простая и красивая. Как мы все знаем, нейроночки очень часто любят галлюцинировать и придумывать несуществующие ссылки. Там выяснилось, что LLM выдумывают эти ссылки не совсем рандомно, а по своим внутренним паттернам (при этом разные модели на одни и те же запросы часто выдумывают один и тот же фейковый URL-адрес.) Мамкины хацкеры всё это дело быстро просекли: они прогоняют тонны запросов через LLM-ки, смотрят, какие домены те выдумывают чаще всего, а после просто регистрируют их на себя. А дальше фишинг, подсовывание троянов, кейлоггеров и прочие цифровые радости. Unit 42 прогнали 685 тысяч запросов про 913 известных брендов и получили 2,1 миллиона ссылок. Среди них 13 тысяч уже известных вредоносных адресов и примерно 250 тысяч придуманных доменов, которые вообще никому не принадлежали. Четверть миллиона свободных заготовок под будущий фишинг. Бесплатный шведский стол для киберцыган.