Реклама в ChatGPT. OpenAI выпустили блог про технологический стек рекламы в ChatGPT. По сути это та же рекомендательная система, только сверху еще прикручен аукцион + не нужно дожидаться, пока пользователь явно попросит рекомендации. Различные стадии рекомендательного стека обернуты в тулы — retrieval (отбираем кандидатов), ranking (предсказываем фидбек пользователя), релевантность (предсказываем полезность рекламы). Рекламный аукцион — тоже отдельный тул. Есть агент-оркестратор, который глядя на текущий диалог (и историю диалогов, если вы разрешили персонализировать рекламу), с помощью этих тулов формирует рекламу. Пишет поисковые запросы, делает семантический поиск (маппит запросы в эмбеддинги и ищет ближайших соседей в индексе с баннерами); вызывает тулы про релевантность, ранжирование, аукцион, etc. Если на текущий момент диалога намерения пользователя еще непонятны или по какой-то причине не нашлась подходящая реклама (с достаточным value для пользователя и рекламодателей), то реклама не показывается; после следующего "шага в диалоге" делается новая попытка. Что ещё: - для посттрейна продовой модели-оркестратора используют большие фронтирные модели с выкрученным ризонингом - генерируют сопровождающий короткий нейтральный текст, который объясняет как реклама связана с диалогом. Это отдельно от (title/description/link/call to action) - даже если все тулы хорошо отработали и отобралась реклама с большим ожидаемым value, оркестратор может решить, что сейчас рекламу показывать не стоит ("inappropriate") - возможно явно тюнили модель, чтобы она не показывала рекламу при первом же упоминании в диалоге товаров/услуг, а дожидалась большего кол-ва инфы - стараются поисковыми запросами покрыть сразу все интересы в диалоге (которых может быть несколько) e.g. пользователь собирается в поездку и ему нужно купить много разных вещей - нет ни слова про конверсии. Есть только небольшое предложение про то, что фидбек от рекламодателей из кабинета (Ads Manager) как-то учитывают. А так говорят только про clicks и hides - в конце упоминают интеграцию диалоговых ассистентов от бизнеса: "Looking ahead, we’ll continue to experiment with more dynamic ad formats to increase user value (e.g. giving users the ability to talk directly to businesses through ads) and advertiser value."

Про ML в маркетплейсах Ozon Tech традиционно провёл ко Дню программиста конференцию E-CODE. Записи докладов уже выложили. В треке ML/DS разбирали в том числе рекомендательную систему Ozon. Компания постепенно переводит на нейросетевые модели разные этапы пайплайна, от отбора кандидатов до финального ранжирования. При этом система должна учитывать продажи, рекламу, вовлечённость и LTV. В докладе также разобрали архитектуру Large User Model, которая объединяет пользовательские сигналы, включая негативную обратную связь. Другой доклад посвятили измерению габаритов товаров на конвейере с помощью стереокамеры, сегментации и 3D-реконструкции. Для этой задачи собрали датасет из более чем 100 000 изображений, а для полуавтоматической разметки использовали Grounding DINO и SAM2. Товары движутся со скоростью до 1 м/с, так что помимо точности важна и скорость обработки. Команда сравнивала ML-подход с классическими методами и подходами на основе облаков точек по качеству, стоимости и производительности. Вообще все шесть докладов трека достойны внимания. Посмотреть можно здесь Ещё из примечательного: на конференции подвели итоги ежегодного ML-соревнования E-CUP. В этом сезоне его проводили только для студентов. Победители разделили призовой фонд 7,2 млн рублей за решения задач на реальных данных Ozon. @ai_newz

Музыкальный датасет Яндекса – фаворит для мировых экспериментов в RecSys 😳 Исследователи Meta* предложили «генеративный верификатор» — маленькую модель, которая перепроверяет шорт-лист готовой системы отбора кандидатов и вытаскивает наверх то, что та задвинула вниз. Саму систему при этом не трогают: ни переобучения, ни пересборки индекса. Тестировали на двух бенчмарках — товарах Amazon и открытом YaMBDa от Яндекс Музыки (обезличенные прослушивания в трёх размерах: 50 млн, 500 млн и 5 млрд взаимодействий). И вот тут началось интересное:

🟢 Чем крупнее каталог, тем сильнее эффект: на максимальном масштабе — 5 млрд взаимодействий и 5,4 млн треков — Recall@10 у всех трёх моделей вырос на 25–30%. На Amazon, где каталог — пара тысяч товаров, прибавка куда скромнее: 6–15%. 🟢 Вывод Meta*: на гигантских каталогах стандартные ретриверы захлёбываются правдоподобным мусором в топе — и тут выручает дополнительная проверка кандидатов.

Такие дела: без наших датасетов никуда. Статья тут 😎 *запрещенная в РФ организация @xor_journal

Yandex Advanced Personal Intelligence Lab. (лаборатория перспективных исследований персонального интеллекта) Возвращаюсь в Яндекс! Моя давняя амбиция — немного подвинуть рексисоидов из Дипмайнда. Показать, что мы тоже умеем (научились) в рексис. Что у нас есть свое видение, навыки, и мы можем мощно контрибьютить в общее фундаментальное развитие рекомендательных систем. А еще персонализация — это, кмк, очень важная задача, которой в силу проф. деформации топовые лабы занимаются постольку-поскольку. И что человечество пока не сильно продвинулось в персонализации агентов/чатботов; в общем, есть куда поконтрибьютить. Чтобы эту амбицию реализовать, нужно: * построить крутую команду — такой опыт у меня уже есть. Раньше я в основном "черпал" талантов из пула ммпшников; все самые удачные наймы — это кличи на стажировку в чатик выпускников/студентов ммп. Но даже самых талантливых ребят надо было года два учить рекомендашкам/large-scale диплернингу. Сейчас ситуация проще — рексис коммьюнити / популярность рексиса среди студентов / пул кадров растут; а с онбордингом помогает дипрексис курс. * много ресурсов. Чем больше ресурсов (GPU/CPU/диск), тем быстрее ставятся эксперименты. На масштабе рекомендаций, когда мы работаем с очень большими датасетами (см. следующий пункт), без нормальных ресурсов вообще тяжело. * конкретно в рекомендашках еще важен доступ к пользовательским данным; и чем больше данных, тем лучше — особенно для текущих фронтирных направлений. * и, наконец, нужен доступ к продакшну и к коллегам, которые помогут быстро итерироваться в оном продакшне. Сильного доверия оффлайн-оценке качества в рекомендациях нет — она смещена из-за специфики пользовательского фидбека и продовой рексистемы. Для железных выводов нужны A/B-тесты. Если посмотреть на тот же (рексис) Дипмайнд — там всё сильно production-oriented и почти во всех статьях репортятся результаты A/B тестов; аналогично Spotify Research. Что в итоге имеем: * для первого пункта нужно вкладываться в популяризацию и развитие образования в области рекомендательных систем. Очень много усилий было вложено в дипрексис курс; мы на этом не останавливаемся и планируем вторую итерацию — более масштабную и ещё более актуализированную. * для остального нужно быть частью индустрии. В академии нет нужного количества ресурсов, доступа к данным нужного масштаба и A/B тестов на реальных пользователях. Так вот. Буду строить свою лабу в Яндексе! Почему Яндекс: в любом другом месте мне потребовалось бы много времени, чтобы наладить инструменты, процессы, выстроить коммуникации, встроиться в организацию. Внутри Яндекса есть разные варианты, где этим можно заниматься — я выбрал Рекламу. Почему Реклама: это самая большая и важная рекомендательная система Яндекса. На протяжении всей карьеры в Яндексе у меня было много совместных проектов с ребятами; все ключевые разработки, типа первых яндексовых рекомендательных трансформеров / Дипранкера (нейросетевого ранжирования) / Аргуса, туда успешно доехали. Команда в рекламе большая и экспертная — есть крутые зрелые R&D / продуктовые / инфровые команды, почти со всеми из которых я хорошо знаком и вместе работал. К ребятам можно органично встроиться ресерч лабой, с хорошей синергией; и с порога получить приличное количество ресурсов. Чем будет заниматься лаба: тем же, чем занималась моя бывшая команда, но с еще большим фокусом на ресерч. Я это позиционирую как applied research — делаем долгосрочные исследования, но при этом сохраняем прикладной фокус; прямо как (рексис) DeepMind и Spotify Research. Конечная цель — импакт в продуктах и рост метрик; и важно то, какими методами мы будем этого достигать — через фундаментальные исследования и фронтир, а не через инкрементальные улучшения и жесткий тюнинг под домены. А ещё очень важно при этом поддерживать и развивать ресерч культуру и делиться результатами с сообществом — писать статьи, участвовать в конференциях, преподавать. Также я рассчитываю, что наши наработки в конечном счете будут полезны не только рекламе Яндекса, но и другим доменам (в том числе горячо любимой мной Музыке <3). И что доведется повзаимодействовать с ребятами из YandexGPT и другими R&D командами (включая моих бывших коллег из рекомендательной службы!). Есть видение, куда надо двигать рекомендашки (куда нас двигает bitter lesson), и есть возможность превратить его в реальность, вместе с ребятами из рекламы. Если раньше я пытался делать сразу почти всё — ресерч, разработку инструментов, фреймворков, погружаться в продукты, внедряться — и это существенно усложняло построение сильной ресерч команды, то здесь вижу НУ ОЧЕНЬ большой потенциал для симбиоза с рекламными командами, у которых все эти аспекты уже хорошо развиты. В общем, хайп н е р е а л ь н ы й! Про образование. Для меня, наверно, самая значимая цельная вещь, которую я сделал к текущему моменту — это дипрексис курс. Хочется и дальше его развивать. Буду продолжать вести курсы в ШАДе и Вышке, а также руководить студентами; вообще, очень удобно делить идеи на сложные фундаментальные рабочие задачи и более локальные гипотез — и вторые проверять вместе со студентами. А ещё в Вышке я теперь заместитель заведующего базовой кафедрой Яндекса, что даёт мне возможность устраивать всякие разные коллабы между Яндексом и Вышкой. Если вы работаете в Яндексе и хотели бы заняться преподаванием / научным руководством, то теперь я человек, который может вам в этом помочь. P.S.: со мной можно пообщаться офлайн на Practical ML Conf 19 сентября, где я буду в качестве участника дискуссии "От исследования к продукту и обратно...". Ну или можно написать в личку. Если лаба заинтересовала, но думаете что на текущий момент нет шансов в неё попасть / не готовы уходить с текущего места, то всё равно полезно дойти до меня и выразить свой интерес, на будущее. Всё, пока, нет времени говорить, побежал двигать рексис фронтир))

⚡️ Как прошел KDD На прошлой неделе прошла одна из ключевых конференций в области ML, и AI VK Research привезла туда две работы по рекомендательным системам. Темы довольно показательные. Первая: как оптимизировать retrieval не под следующий клик, а под поведение пользователя в рамках всей сессии. Вторая: как использовать MDP с матричной факторизацией для candidate generation. То есть обе работы так или иначе про одну большую проблему: как сделать классическую рекомендательную систему не просто хорошей в предсказании следующего действия, а более эффективной на длинном горизонте. Исследователи AI VK Research собрали репортаж прямо с KDD: что обсуждали на конференции, какие тренды заметны сейчас в recsys и как проходила презентация исследований команды.

KDD’26, день третий. 1. Keynote от Джеффа Дина. Это один из гигантов области ИИ, стоящий у истоков большого числа различных исследований и разработок Гугла, которыми мы все с вами пользуемся. Он буквально придумал MapReduce, TPU, tensorflow, был соавтором word2vec, mixture of experts, knowledge дистилляции; делал первый нейросетевой машинный перевод. В последние годы лидил разработку Gemini. У него 426490 цитирований на google scholar. Пока текущий кейноут не залили на ютуб, можете посмотреть как в 2014 году он выступал на ACM RecSys с кейноутом Large Scale Machine Learning for Predictive Tasks. На сегодняшнем кейноуте сначала был экскурс в его основные околонейросетевые работы, про которые писал выше. А еще: * оказалось, в своем диссере из 90-х он уже занимался нейросетями — скейлил обучение до 32-х процессоров. Потом продолжил тем же самым заниматься в Гугле :) * забавный факт — статью про knowledge distillation (ту самую, с Хинтоном в соавторах) — реджектнули на Neurips со словами “это никому не понадобится”)) Затем рассказывал про свой уход из Гугла — как объявлял на всю компанию что уходит; что очень много людей пришли на прощальную вечеринку, все не поместились в Гугл кафешке; что было очень много прощальных писем, он пытался на них все ответить, но не получалось, но он пытался, но не получалось... Сходил на йогу, поиграл в футбол, возможно всплакнул. И, наконец, рассказал про свою новую компанию Discovery Loop: * jсновная идея — автоматизация типичного экспериментального пайплайна “propose experiment -> implement and run -> evaluate” * К вопросу подходят масштабно — предполагается, что запускаться будет очень большое количество экспериментов, их результаты (и отрицательные, и положительные) будут использоваться агентами на следующей итерации экспериментов. Ожидается, что при должном масштабировании это приведет к большому количеству научных прорывов * Сначала фокусируются на digital областях, в которых эксперименты не требуют доступа к физическому миру * Приводил как пример масштабного запуска экспериментов разработку Gemini, в которой одновременно принимали участие тысячи людей, и мерджили результаты экспериментов в единую модель Еще было немного про кодинг: * сейчас происходит следующий, еще больше верхнеуровневый этап программирования: ассемблер, C++, Python, а теперь — делегирование задач агентам * по мнению Джеффа, агенты нас не заменят, а сделают продуктивней (ага, ага) 2. Вообще, сегодня я хорошенько прочувствовал, что агенты становятся основным трендом в рекомендательных технологиях. Семантические айдишники и генеративные рекомендации, конечно, это все еще очень горячая тема, про которую большие компании трубят из каждого угла; но уже появилось четкое ощущение, что самые передовые ребята занимаются агентами, а большие компании просто как всегда не поспевают за прогрессом. Чуть более конкретно: * пообщался с Derek Chang (руководителем команды в Google DeepMind, в которой придумали DCN-v2). Раньше его команда помогала различным сервисам Гугла (в первую очередь рекламе) делать рекомендательные технологии — придумывали архитектуры нейросетей, работали над эффективностью, etc. А теперь они делают агента, который их заменит)) Буквально занимаются посттрейнингом LLM * Артёму @nxt_item стажер из команды onerec-think/onereason Куайшоу сказал, что сейчас у них половина команды занимается проектом Агент X, суть которого буквально такая же — создать ИИ ресерчера, который их всех заменит В общем, тренды страшные. Мы все призадумались; на постерной сессии полчаса стояли в кружке и пытались осмыслить надвигающийся экзистенциальный кризис. Если еще посты Игоря @seeallochnaya про ситуацию с OpenAI агентами почитать, то совсем страшно. 3. Также сегодня была вторая постерная сессия (вчера industry track, сегодня research), ее я провел в основном возле статьи A Unified Language Model for Large Scale Search, Recommendation, and Reasoning от Spotify, про которую в этом году уже даже на лекциях рассказывал!) На этом всё. Следующий пост за меня будет писать уже агент

KDD’26, день первый. На конференции собралась индустриальная тусовка — приехали ключевые рекомендательные команды из вообще ВСЕХ больших компаний. 1. Сходил на первую половину Tutorial on Generative Recommendation: Foundations and Frontiers от Kuaishou и City University of Hong Kong. Выделили два (будущих?) тренда: * если изначально все использовали encoder-decoder модели для генеративного ретривала, потому что в них было удобно впихивать богатый контекст; то сейчас двигаются в сторону decoder-only моделей, которые лучше скейлятся * диффузионные подходы, при которых мы предсказываем сразу все семантические токены целевого айтема — очень перспективное направление, которое позволяет избавиться от аккумуляции ошибок при авторегрессивной генерации токенов После кофе-брейка я на туториал не вернулся, потому что: * были супер энциклопедические слайды, на которых просто перечислялось много статей по паре минуток каждая, очень поверхностно, без инсайтов, с неточностями * при этом не было живого рассказа - весь текст просто зачитывался. Надеюсь, потом выпустят с этим текстом техрепорт)) Ну а если серьезно, то проще потом слайды полистать, наверняка какие-то инсайты все-таки будут ближе к концу рассказа 2. Пообщались с Федором Борисюком. Когда возле него осталась только наша русская компашка, Федор сам первый перешел на русский язык :) Что рассказывал: * если я все правильно понял, он сейчас руководит тремя командами. Что-то возле поиска и рекомендаций * статьи пишут по выходным. К процессу привлекается большое количество коллег. Федору просто нравится писать статьи и прокачивать репутацию, а у коллег есть мотивация участвовать как минимум чтобы получить грин-карту)) * сам Федор сторонник того, чтобы на работе со всеми уважительно и дружелюбно обращаться, налаживать хорошие отношения. И максимально коллаборироваться, делать совместные проекты. Но говорит, что это иногда приводит к плохим последствиям, во время политических игрищ * у него всегда часть проектов долгосрочные, а часть краткосрочные. Долгосрочным как правило занимается небольшая команда из 2-3 человек. Если проект планируется на год-полтора (больше бизнес вряд ли вытерпит), то расставляются майлстоуны на каждые полгода с оффлайн-метриками * если попался плохой руководитель, то надо просто ротироваться и не мучаться :) * через полтора месяца должен быть дроп крутой новой статьи от Линкедина 3. Воркшоп Two-sided Marketplace Optimization: Search, Discovery, Matching, Pricing & Growth. Было выступление от Director of Research @ Spotify, Paul Bennett — From User Needs to Ecosystem Design: How AI Is Reshaping Discovery. Рассказывал про разные сценарии, в которых применяют LLM: * steerable recommendations — тюнят модель с помощью контрольных токенов выдавать familiar (пользователь уже взаимодействовал с подкастом >10 минут за последний месяц) и unfamiliar (обратная ситуация) контент в рекомендациях. Похоже на мою идею с обуславливанием, про которую рассказывал на Turbo ML Conf 2025 * Intent-aware search — в поиске есть разные сценарии; иногда нужно просто включить рекомендации с какими-то настройками, иногда запустить реальный поиск, иногда просто найти артиста, иногда что-то еще. LLM можно использовать как router, который определяет в какой api (recs/search/etc) нужно отправлять запрос * Conversational discovery — часто пользователь сначала сам не понимает какие ему нужны рекомендации; и только в процессе взаимодействия с рекомендательной системой начинает понимать чего все-таки хочет. И для этого как раз multi-turn диалог, в котором он может и промежуточные рекомендации получить, и пообщаться с рексистемой 4. Что еще: * на конференции 70+ русскоговорящих участников, это очень много. Много людей со статьями, а еще есть студенты с ИИ360 программы. Жутко им завидую, меня бы кто на первом-втором курсе на конференцию отправил! Говорят, что ничего непонятно, но все очень вдохновляет) * все офигевают от джетлага * даже в Линкедине (!) разработчики слушают наш DeepRecsys курс :)

Где-то два с половиной года назад на конференции по рексистемам в Вышке, куда я пришел слушателем (так появилась секция кулуары, которой, кстати, давно не было), мне задали вопрос — почему у нас нет научных публикаций. Я ответил, что у ребят в Яндексе, занимающихся рексистемами, нет KPI на статьи — только KPI на внедрения. При этом я, конечно, не воспринимал вопрос лично, но сам уже долгое время горел идеей писать статьи, публиковаться на конференциях, участвовать в жизни научного сообщества. Через год я съездил на свою первую большую конференцию ACM RecSys’24. Про эту поездку есть целая серия постов; нетрудно понять, что мне очень понравилось)) Был даже маленький забавный моментик, когда я во время выступления Эда Чи что-то спросил, а он ответил “А может, вы про это статью и напишете” :) После всего этого я еще больше укрепился в решимости начать писать статьи. KPI не то чтобы после этого поменялся, но как будто подвернулся хороший момент, чтобы попробовать. Мы разработали и внедрили в Яндекс Музыку большую рекомендательную трансформерную модель (тот самый Аргус); и казалось логичным превратить это внедрение в статью. Затем, при подготовке лекции для ШАДа про LogQ коррекцию для двухбашенных моделей, я обнаружил ошибку в широко используемой по всему миру формуле. Когда я принес своим ребятам выкладки, далеко не все сразу поверили, что такое вообще возможно)) Было крайне нетривиально одновременно работать фуллтайм, преподавать новый курс в ШАДе и при этом еще и писать сразу две статьи. Но каким-то образом все получилось, и примерно год назад у нас сначала приняли на ACM RecSys’25 статью про LogQ коррекцию, а затем спустя еще полгода приняли на ACM KDD'26 статью про Аргуса. И вот я радостный стою уже 7 часов возле постера на рексисе и рассказываю всем окружающим про LogQ коррекцию)) А потом ночью в караоке пою Radiohead Creep в толпе рексисоидов И самое крутое, что мы на этом не остановились: * на тот же ACM RecSys’25 была принята работа про датасет Yambda, в которой я лично не участвовал, но поучаствовали ребята из нашей команды — Влад Тыцкий и Владимир Байкалов * на ACM SIGIR приняли статью Владимира Байкалова и его студентов из ИТМО про дообучение семантических айдишников * туда же на ACM SIGIR приняли статью от ребят из нашей (бывшей) команды — Артёма Матвеева, Влада Тыцкого, Сережи Макеева и Сережи Лямаева, про улучшение архитектуры энкодер-декодера для generative retrieval Ну и вот сейчас у нас приняли статью на воркшоп ACM KDD’26, продолжающую линию ресерча из статьи Top-K REINFORCE (я периодически шучу, что надо было её назвать "Correcting the Off-Policy Correction" в духе нашей LogQ статьи) и скрещивающую ее с generative retrieval. Про нее я написал в прошлом посте. Кроме того, на архиве появились препринты, про которые смею надеяться, что они дойдут до публикации: * мой Variable-Length Semantic IDs * Gryphon от ребят из Яндекса, в котором поучаствовали Олег Сорокин и Влад Додонов из нашей бывшей команды (читайте подробности про статью на канале Даши @redrecsys) И все это произошло только за последний год! Хочется верить, что мы только в начале нашего пути и нас всех ждет еще миллиард параметров приключений и публикаций :)

Measuring the Impact of Personalized Recommendations Netflix предлагает раскладывать эффект рекомендаций на три части: • Exposure - тайтл посмотрели, потому что его вообще показали. • Selection - его показали тем, кто и без рекомендации был склонен посмотреть. • Targeting - показ изменил решение именно этого пользователя. Наблюдаемый просмотр смешивает все три эффекта. Поэтому высокий CTR рекомендации ещё ничего не говорит о её причинной ценности - система могла просто хорошо предсказать уже существующий спрос У Netflix чистый targeting почти в семь раз сильнее exposure. То есть основная ценность современного рекомендатора - не в том, чтобы найти релевантный контент, а в том, чтобы найти пользователя, чьё решение рекомендация действительно изменит, а не просто предсказать его выбор И сильнее всего это работает не на хитах и не на совсем нишевых тайтлах, а в середине каталога - там, где спрос существует, но без персонализации не реализуется. https://netflixtechblog.medium.com/measuring-the-impact-of-personalized-recommendations-4c26be3a4d96

Hola! Если честно новостей никаких нет, а есть общая апатия по случаю летнего экватора. Вчера гулял на финском заливе - чайки меня чуть не съели (есть пруф в сторис 😀) Давайте сегодня я коротко пройдусь по интересным постам за июнь, а завтра подготовлю что-то более интересное: 1) Статус законопроекта об уголовной ответственности за майнинг + статья на Zakon.ru 2) Как китайский производитель 3D принтеров Bambu Lab сам себя закопал с open souce'ом и претензиями разработчикам 3) Штрафы за "авторизацию через гугл" и по 2,8 млн за "неправильные" рекомендательные технологии 4) Как делить виртуальное имущество (или скины из Dota2/CS) при разводе 🫠 5) Эпичное постановление КС по информационным посредникам (или Мир Хобби Vs Wildberries Я вот честно не заметил как июнь пролетел) Всем добра и остаемся на связи 🙏

The art of a strong baseline За последнее время все чаще понимаю, что создать сильный бейзлайн - это не просто база, с которой нужно начинать любой ml/ai продукт, а прям полноценная часть системы. Даже когда в проде уже давно есть трансформеры и агенты, бейзлайн дает прям много метрик Вот учите вы трансформер для персональных рекомендаций (sasrec, argus, pinnerformer, hstu - неважно).  И если в лоб его применить, то вероятно получите рекомендации из истории кликов. Потому что простой бейзлайн "уже изучал товар - покажи еще раз" чаще всего почти по любым метрикам релевантности будет лучше Окей, пофильтровали историю кликов / занизили таким позитивам вес в лоссе / сделали еще что-то - получили очень-очень похожие товары на последние 30-50 действий. Вот буквально товар того же бренда-категории, но чуть другого цвета условно. А это уже похоже на другой сильный бейзлайн - realtime slim/als/ease на последних 30-50 действиях На самом деле можно еще и дальше продолжать с бейзлайнами в этом кейсе или в других. Частые бейзлайны: - Персональные рекомендации - популярное, история, уже купленное для повторных покупок - item2item рекомендациях (похожие товары) - популярные товары того же бренда в той же категории  - Поиск - tfidf/bm25. Да, даже в эру dense retrieval и search agents если аккурфтно подтюнить bm25, то можно выбить sota. Есть даже подходы на основе Sparse autoencoderse , которые позволяют генерить не эмбеды запросов/документов, а их токены - и дальше применять обычный bm25 - Прогноз временных рядов - среднее значение в тот же день недели  ↔️ Я всегда стараюсь строить сильные бейзлайны, а потом учить более сильные модели для улучшения поверх них, а не для замены. Потому что какой толк учить условный sasrec/argus для запоминания истории кликов пользователя? Пустая трата компьюта + модель тратит свою капасити на тривиальные зависимости = что-то нетривиальное (и самое полезное + ожидаемое от нее) не учит Интересно, как не только я сам, но и другие люди в в индустрии / рисерче к этому подходят: я видел очень мало подобных работ. Если есть личные опыт или ссылки на полезные статьи - кидайте, с интересом почитаю!)

В силу своей работы в Okko я всегда с большим интересом читаю статьи от Netflix. Эта показалась мне особенно любопытной - как минимум сама идея. Главная страница Netflix представляет собой двумерную сетку: горизонтальные полки и айтемы внутри каждого. В базовом варианте главная собирается мультистадийно: отдельно ранжируются коллекции, отдельно - элементы внутри них, и далее все это сшивается по базовым правилам. Зачастую у каждой стадии своя модель и свой таргет - между ними нет связи: нельзя модельно определить, если верхний row уже содержит новинки, значит в следующем нужно подобрать нишевый контент. Отсюда идея GenPage: Towards End-to-End Generative Homepage Construction at Netflix: пусть всю страницу формирует одна авторегрессионная модель. Промпт - история и контекст юзера, ответ - вся страница целиком: row_id, item_id и их порядок в одном сиквенсе. Тогда каждое следующее предсказание принимается с оглядкой на все, что уже простроено на странице выше - ровно та связность, которой нет в классическом варианте. На этапе претрейна обычный next-token prediction. В обучающих цепочках лежат показы с позитивной интеракцией с главной страницы - таким образом модель уже на этапе предобучения начинает понимать специфику формирования main page. Дообучение представлено в двух вариантах. Первый, Weighted Binary Classification, смотрит на каждый показанный айтем на главной по-отдельности: если полный досмотр - большой вес, если watch time небольшой -  вес меньше. Модель учат для каждой позиции оценивать, насколько ценно поставить туда именно этот айтем. Правда такой подход все еще не решает проблему совместного формирования главной. Второй вариант (через офлайн RL) оптимизирует reward всей страницы целиком. Сначала обучают отдельную модель, которая предсказывает, насколько хороша любая сгенерированная страница. Регрессионная модель обучается на таргет суммы зависящих от watch time reward значений (досмотр до конца - большой плюс, скип - большой минус). Дальше для одного юзера сэмплируют несколько кандидатских страниц и оптимизируют модель с учетом такой прокси оценки reward. В АБ подход с WBC дал статзначимый прирост неназванной метрики engagement +0.24% и заодно оказался на 20% быстрее, из-за того что выкинули несколько стадий ранжирования, плюс авторегрессионно предсказывают только часть айтемов, оставшиеся - одним forward pass. RL в АБ не завели, утверждают что на офлайн оценках растет разнообразие и средний reward. Что имеем по итогу? Техрепорта конечно ждать не стоит, как и подробностей реализации. Результаты не прорывные и выглядят немного наспех собранными - не довели RL модель до АБ, хотя это такая же обученная модель в офлайне, подозреваю что в АБ-тесте просто были плохие метрики. Опять же, мне откликается идея генеративного UI на основе персонализации, ведь на стриминговых площадках обложки айтемов это и есть по сути главный визуал. Таким образом можно улучшать не только качество рекомендаций, но и пользовательское восприятие сервиса.