⚡️ Как прошел KDD На прошлой неделе прошла одна из ключевых конференций в области ML, и AI VK Research привезла туда две работы по рекомендательным системам. Темы довольно показательные. Первая: как оптимизировать retrieval не под следующий клик, а под поведение пользователя в рамках всей сессии. Вторая: как использовать MDP с матричной факторизацией для candidate generation. То есть обе работы так или иначе про одну большую проблему: как сделать классическую рекомендательную систему не просто хорошей в предсказании следующего действия, а более эффективной на длинном горизонте. Исследователи AI VK Research собрали репортаж прямо с KDD: что обсуждали на конференции, какие тренды заметны сейчас в recsys и как проходила презентация исследований команды.

KDD’26, день четвертый. Сегодня в основном вел закулисные разговоры, про которые не могу ничего рассказать. А вот про что могу: 1. Доклад от команды YouTube и GDM. Классический формат выступления, когда они рассказывают про свои новые статьи. Судя по всему, у них прям очень жестко цензурируются любые рассказы наружу, ничего лишнего упоминать нельзя, поэтому они придерживаются формата пересказа уже опубликованных статей. Держите еще одно название для кандгена — nomination. А для преранжирования — prescoring. А группировку айтемов в выдачу в докладе нарекли packing. В рамках доклада выступало поочередно четыре человека. Сначала был рассказ про knowledge distillation в ранжировании: * упоминали две свои более старые работы — Bridging the Gap: Unpacking the Hidden Challenges in Knowledge Distillation for Online Ranking Systems и Zero-shot Cross-domain Knowledge Distillation: A Case study on YouTube Music * и как раз на KDD’26 у них вышла новая статья — Addressing Intent Dissonance in Cross-Domain Distillation on YouTube. Кто первый прочитает, напишите в комментариях что там :) Затем был раздел про анализ последовательностей: * упоминали нашу любимую Top-K Off-Policy Correction for a REINFORCE Recommender System, а также оригинальный YoutubeDNN, в котором впервые предложили next watch prediction * затем показали свою новую работу ClockRoPE: Random Fourier Rotations for Temporal Routine Modeling, в которой, как я понял, сделали time-aware RoPE, то есть учли время при анализе последовательности * и еще одну новую работу Tokens are All You Need: Dual-purpose Semantic IDs for Achieving LLM-Level I/O Efficiency in recommendation systems. Заменили в рекомендательной нейросети эмбеддинги на семантические айдишники Потом говорили про LLM x RecSys: * упомянули TIGER, а также статью про semantic IDs для ранжирования в YouTube, PLUM, STATIC * Token Factory: Efficiently Integrating Diverse Signals into Large Recommendation Models. Заменили в LLM семантические айдишники на эмбеддинги :) * LLM-Based User Personas for Recommendations at Scale. Используют LLM для exploration с помощью генерации новых для пользователя интересов * TokenMinds: Pretrained User Tokens and Embeddings for User Understanding in Large Recommender Systems. Делают семантический айдишник пользователя. У меня в этом году студент такую дипломную работу в бакалавриате вышки защитил)) Последняя, четвертая секция называлась Gemini Commercial Intelligence: * это как раз работы команды Derek Cheng, подарившей миру DCN-v2 * как и писал в прошлом посте, делают ИИ-ресерчера, который их заменит (ну и нас тоже, за компанию). Прикладываю статьи ниже * AgenticTagger: Structured Item Representation for Recommendation with LLM Agents * PACEvolve: Enabling Long-Horizon Progress-Aware Consistent Evolution * PACEvolve++: Improving Test-time Learning for Evolutionary Search Agents * также активно занимаются бенчмарками для этого ИИ-ресерчера. Статья Evo-Memory: Benchmarking LLM Agent Test-time Learning with Self-Evolving Memory * еще делают модель, которая по набору товаров будет генерировать рекламу, в которой эти товары присутствуют. Звучит немного рандомно, но в тему коммерциализации укладывается 3. Был доклад от Федора Борисюка про эволюцию ранжирования в Линкедине. Подсвечу лишь статью Semantic Search At LinkedIn; вроде как это их главная работа про ранжирование на текущий момент. Федор, как всегда, первый автор :)

Как научить рекомендательную систему думать не о следующем лайке, а обо всей сессии? В классических рекомендациях модель обычно оптимизирует ближайший сигнал: клик, лайк, дослушивание. Но каждое действие меняет состояние пользователя. Хорошая рекомендация сейчас может привести к плохому продолжению сессии — и наоборот. AI VK Research попробовали решить эту задачу через Reinforcement Learning. Рекомендации формулируются как RL-задача: пользователь — environment, модель — agent, рекомендация — action, а реакции пользователя становятся reward. Главная сложность — обучаться приходится на логах старой модели. Авторы используют REINFORCE с многошаговой off-policy коррекцией, чтобы учесть разницу между поведением старой и новой политики и при этом не получить взрыв дисперсии. В экспериментах подход улучшил оценку долгосрочной сессионной награды без существенной потери стандартных метрик рекомендаций. Источник: https://habr.com/ru/companies/vk/articles/1068050/ #AI #Recsys #MachineLearning #RL

KDD’26, день первый. На конференции собралась индустриальная тусовка — приехали ключевые рекомендательные команды из вообще ВСЕХ больших компаний. 1. Сходил на первую половину Tutorial on Generative Recommendation: Foundations and Frontiers от Kuaishou и City University of Hong Kong. Выделили два (будущих?) тренда: * если изначально все использовали encoder-decoder модели для генеративного ретривала, потому что в них было удобно впихивать богатый контекст; то сейчас двигаются в сторону decoder-only моделей, которые лучше скейлятся * диффузионные подходы, при которых мы предсказываем сразу все семантические токены целевого айтема — очень перспективное направление, которое позволяет избавиться от аккумуляции ошибок при авторегрессивной генерации токенов После кофе-брейка я на туториал не вернулся, потому что: * были супер энциклопедические слайды, на которых просто перечислялось много статей по паре минуток каждая, очень поверхностно, без инсайтов, с неточностями * при этом не было живого рассказа - весь текст просто зачитывался. Надеюсь, потом выпустят с этим текстом техрепорт)) Ну а если серьезно, то проще потом слайды полистать, наверняка какие-то инсайты все-таки будут ближе к концу рассказа 2. Пообщались с Федором Борисюком. Когда возле него осталась только наша русская компашка, Федор сам первый перешел на русский язык :) Что рассказывал: * если я все правильно понял, он сейчас руководит тремя командами. Что-то возле поиска и рекомендаций * статьи пишут по выходным. К процессу привлекается большое количество коллег. Федору просто нравится писать статьи и прокачивать репутацию, а у коллег есть мотивация участвовать как минимум чтобы получить грин-карту)) * сам Федор сторонник того, чтобы на работе со всеми уважительно и дружелюбно обращаться, налаживать хорошие отношения. И максимально коллаборироваться, делать совместные проекты. Но говорит, что это иногда приводит к плохим последствиям, во время политических игрищ * у него всегда часть проектов долгосрочные, а часть краткосрочные. Долгосрочным как правило занимается небольшая команда из 2-3 человек. Если проект планируется на год-полтора (больше бизнес вряд ли вытерпит), то расставляются майлстоуны на каждые полгода с оффлайн-метриками * если попался плохой руководитель, то надо просто ротироваться и не мучаться :) * через полтора месяца должен быть дроп крутой новой статьи от Линкедина 3. Воркшоп Two-sided Marketplace Optimization: Search, Discovery, Matching, Pricing & Growth. Было выступление от Director of Research @ Spotify, Paul Bennett — From User Needs to Ecosystem Design: How AI Is Reshaping Discovery. Рассказывал про разные сценарии, в которых применяют LLM: * steerable recommendations — тюнят модель с помощью контрольных токенов выдавать familiar (пользователь уже взаимодействовал с подкастом >10 минут за последний месяц) и unfamiliar (обратная ситуация) контент в рекомендациях. Похоже на мою идею с обуславливанием, про которую рассказывал на Turbo ML Conf 2025 * Intent-aware search — в поиске есть разные сценарии; иногда нужно просто включить рекомендации с какими-то настройками, иногда запустить реальный поиск, иногда просто найти артиста, иногда что-то еще. LLM можно использовать как router, который определяет в какой api (recs/search/etc) нужно отправлять запрос * Conversational discovery — часто пользователь сначала сам не понимает какие ему нужны рекомендации; и только в процессе взаимодействия с рекомендательной системой начинает понимать чего все-таки хочет. И для этого как раз multi-turn диалог, в котором он может и промежуточные рекомендации получить, и пообщаться с рексистемой 4. Что еще: * на конференции 70+ русскоговорящих участников, это очень много. Много людей со статьями, а еще есть студенты с ИИ360 программы. Жутко им завидую, меня бы кто на первом-втором курсе на конференцию отправил! Говорят, что ничего непонятно, но все очень вдохновляет) * все офигевают от джетлага * даже в Линкедине (!) разработчики слушают наш DeepRecsys курс :)

IR конференции Перед тем как переходить к постам про статьи и конференции, хочу дать небольшой контекст уважаемым подписчикам. Есть такой раздел на arXiv, который называется Information Retrieval. Все статьи про рекомендации, поиск и рекламу лежат именно здесь (но не только они, e.g. RAG). Обычно эти статьи с шести конференций ниже. Чтобы названия для вас не выглядели как набор случайных букв, прикладываю рядом известную работу с каждой из конференций. * KDD (A*) — Graph Convolutional Neural Networks for Web-Scale Recommender Systems * RecSys (A) — Sampling-bias-corrected neural modeling for large corpus item recommendations * WWW (A*) — Mixed Negative Sampling for Learning Two-tower Neural Networks in Recommendations * SIGIR (A*) — LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation * WSDM (A) — Top-K Off-Policy Correction for a REINFORCE Recommender System * CIKM (A) — BERT4Rec: Sequential Recommendation with Bidirectional Encoder Representations from Transformer Иногда что-то крутое проскакивает на ICML (A*) — Actions Speak Louder than Words: Trillion-Parameter Sequential Transducers for Generative Recommendations, NeurIPS (A*) — Recommender Systems with Generative Retrieval, или вообще лежит pre-print-ом на arXiv — PLUM: Adapting Pre-trained Language Models for Industrial-scale Generative Recommendations. Сразу оговорюсь, что это субъективный список. Он построен на основе конференций, которые я встречаю в статьях. И у меня определенно есть байес к статьям из индустрии. Вместе с ИИ-стажером мы составили диаграмму, я постарался ее верифицировать. На ней можно сравнить IR-конференции по числу участников и статей в proceeding-ах (так называется сборник трудов конференции, e.g. SIGIR’25). KDD для меня всегда ощущалась самой крупной из них, так оно и оказалось. Все познается в сравнении, поэтому рядом добавил NeurIPS и ICML. SIGIR — это одна из крупных A*-конференций, одного масштаба с тем же RecSys-ом. На прошлой неделе презентовал нашу работу на ней. В следующем посте расскажу про работу и общие впечатления от конференции. P.S. А за дедлайнами recsys-конференций можно следить здесь: https://recsys.info

ACM SIGIR 2026. В этом году Артём Матвеев, Владимир Байкалов и Сережа Макеев (ребята из моей бывшей команды, мои соавторы по Аргусу и другим статьям, а также помощники по Deep RecSys курсу) съездили в Австралию на SIGIR со своими работами, которые я уже упоминал пару постов назад. Почитать про конфу можно на канале Владимира @ducks_recs и Артёма @nxt_item. Первый пост на канале Артёма — инсайдерская инфа из личного общения с инженером из команды OneRec: тык. Лично мое мнение про OneRec от этой инфы не поменялось (его можно узнать из лекции про генеративные модели), но для кого-то она может стать неожиданностью :) Подписывайтесь! P.S: картинку украл из @MLunderhood))

USRW 2026: Call for Papers — дедлайн продлён до 27 июля 🔎 Это тот самый Unified Search and Recommendation Workshop, который я недавно упоминал в посте про мои воркшопы на RecSys. Теперь можно наконец рассказать подробнее: мы опубликовали программу и открыли приём статей. Для меня это первый опыт организации отдельного воркшопа — и особенно приятно, что он посвящён теме, вокруг которой, собственно, и строится этот канал. Главная идея USRW проста: поиск и рекомендации слишком долго развивались как разные дисциплины, хотя обе решают одну и ту же задачу — помогают человеку найти нужный контент. С появлением LLM, generative retrieval и агентных систем граница между query-driven search и feed-driven recommendation становится всё менее естественной. Но «объединить» не значит просто объявить поиск и рекомендации одной и той же задачей. Мы хотим разобраться, что действительно можно сделать общим — данные, представления, генерацию кандидатов, ранжирование, интерфейсы и протоколы оценки, — а где различия в сигналах, UX, задержке, стоимости и управляемости остаются принципиальными. В программе: 🎤 Mounia Lalmas (Senior Director of Research, Spotify) — «Building AI-Driven Experiences at Scale: When Search and Recommendation Become One Conversation» 🎤 Harrie Oosterhuis (Associate Professor, University of Amsterdam / Amazon Scholar Amazon Music) — «Learning to Rank Everything, Everywhere and All at Once» 🧭 Dive Deep tutorial, который мы проведём вместе с Gustavo Penha. Поговорим об общих корнях поиска и рекомендаций, слоях их возможного объединения, semantic IDs, generative retrieval, языковых интерфейсах, агентах и реальных production-компромиссах. В Call for Papers ждём работы про: • единые модели поиска и рекомендаций; • общие представления пользователей и объектов; • моделирование поведения между search- и feed-сценариями; • LLM для понимания запросов и намерений; • generative retrieval, semantic IDs, RAG и agentic discovery; • смешанные поисково-рекомендательные интерфейсы; • общую инфраструктуру и методы оценки; • эффективность, устойчивость и безопасность; • индустриальные кейсы, датасеты и benchmarks. Формат: 4–9 страниц без списка литературы, ACM SIGCONF, двойное слепое рецензирование. Воркшоп неархивный: принятая статья будет размещена на сайте USRW, но авторы сохраняют право впоследствии отправить её расширенную версию в конференцию или журнал. Также выберем лучшую работу для Best Paper Award. ⏰ Дедлайн подачи: 27 июля 2026 года, 23:59 AoE 📍 Воркшоп: 2 октября 2026 года, Миннеаполис, ACM RecSys 2026 🔗 Сайт, полный CFP и подача статьи: https://usrw-workshop.github.io/2026/ Организуем USRW вместе с Sean MacAvaney (University of Glasgow), Gustavo Penha (Spotify), Léa Briand (Deezer) и Clémence Vast (Deezer). Если у вас есть работа на стыке поиска и рекомендаций — от новой модели до индустриального кейса или benchmark, — буду очень рад увидеть её на USRW. И буду благодарен, если перешлёте этот анонс коллегам, которым тема может быть близка 🙌