Как устроен рекламный стек в ChatGPT

Реклама в ChatGPT. OpenAI выпустили блог про технологический стек рекламы в ChatGPT. По сути это та же рекомендательная система, только сверху еще прикручен аукцион + не нужно дожидаться, пока пользователь явно попросит рекомендации. Различные стадии рекомендательного стека обернуты в тулы — retrieval (отбираем кандидатов), ranking (предсказываем фидбек пользователя), релевантность (предсказываем полезность рекламы). Рекламный аукцион — тоже отдельный тул. Есть агент-оркестратор, который глядя на текущий диалог (и историю диалогов, если вы разрешили персонализировать рекламу), с помощью этих тулов формирует рекламу. Пишет поисковые запросы, делает семантический поиск (маппит запросы в эмбеддинги и ищет ближайших соседей в индексе с баннерами); вызывает тулы про релевантность, ранжирование, аукцион, etc. Если на текущий момент диалога намерения пользователя еще непонятны или по какой-то причине не нашлась подходящая реклама (с достаточным value для пользователя и рекламодателей), то реклама не показывается; после следующего "шага в диалоге" делается новая попытка. Что ещё: - для посттрейна продовой модели-оркестратора используют большие фронтирные модели с выкрученным ризонингом - генерируют сопровождающий короткий нейтральный текст, который объясняет как реклама связана с диалогом. Это отдельно от (title/description/link/call to action) - даже если все тулы хорошо отработали и отобралась реклама с большим ожидаемым value, оркестратор может решить, что сейчас рекламу показывать не стоит ("inappropriate") - возможно явно тюнили модель, чтобы она не показывала рекламу при первом же упоминании в диалоге товаров/услуг, а дожидалась большего кол-ва инфы - стараются поисковыми запросами покрыть сразу все интересы в диалоге (которых может быть несколько) e.g. пользователь собирается в поездку и ему нужно купить много разных вещей - нет ни слова про конверсии. Есть только небольшое предложение про то, что фидбек от рекламодателей из кабинета (Ads Manager) как-то учитывают. А так говорят только про clicks и hides - в конце упоминают интеграцию диалоговых ассистентов от бизнеса: "Looking ahead, we’ll continue to experiment with more dynamic ad formats to increase user value (e.g. giving users the ability to talk directly to businesses through ads) and advertiser value."