Теперь официально: погнали пить кофе в Лондоне. 23 сентября выступаю на конференции Applied Machine Learning for Cyber Security Conference в Лондоне, Olympic Park с докладом «Does a model know when a jailbreak is working?» TLDR на вопрос доклада: возможно, да, но у нас есть много свободных переменных, из-за которых мы не можем надежного отличить "знание" от случайного результата без предварительных приседаний и проверок. Вдруг кто-то будет мимо-проходить, заходите. В любом случае потом поделюсь впечатлением — для меня это что-то новое =) Вообще говоря, AMLUCS — сильная британская конфа на стыке ML и кибербезопасности, с прикладным уклоном. Например, в оргкомитете есть Джон (John Sotiropoulos) из OWASP GenAI Security Project (авторы OWASP Top 10 for LLM Applications, я туда даже ручку прикладывала). В докладах буду принимать участие исследователи из NCSC, Dstl, Alan Turing Institute, AI Red Team в Microsoft, AWS и профильных security-стартапов. И я — как лид HiveTrace — мы тоже сильный профильный стартап 🗿 P.S., да, это к тому, что мне дали визу, и ждун дождался. Я рада и вместе с этим волнуюсь — у меня на конфе и talk, и постер, а я давно не выступала очно (кажется, с зимы). И в целом — формат, форма и сообщество (кибербез) новый. Такие дела!

📺 ЦОДы, сети и NGFW: прямая трансляция из пространства «Материя» первого дня IT Elements Команда Хабра ведёт трансляцию из пространства «Материя», где сегодня обсуждают развитие ИТ-инфраструктуры, сетевые технологии и отказоустойчивость. В программе — результаты исследования «Сетевая инфраструктура ЦОДов» от «Инфосистемы Джет» и «Аналитического центра ИКС», кейс НСИС о переходе от Hitachi HCP + MongoDB к YDB и круглый стол о ЦОДах высокой плотности. Во второй половине — проверка российских NGFW на прочность и история МТС о том, как централизованно управлять DR-планами компании. Подключайтесь к трансляции в нашем ВК-сообществе или телеграм-канале, чтобы следить за ключевыми выступлениями первого дня IT Elements.

🎮 ОНЛАЙН-ФЕСТИВАЛЬ 🎮 Рябины горят, 3 сентября уже переступило порог и расположилось в гостиной. И раз уж выбора нам не оставили — мы переворачиваем календарь и подводим первые итоги года ⚫️ Во-первых, нашему МИКу не суждено случиться. Был план на проведение Московской игровой конференции. Хотелось провести масштабно и круто, мы выбрали площадку в Москве. Узнали, что она стоит денег. Вот это поворот! Свои деньги на нее зажали, деньги инвесторов не нашли. От профильных организаций, поддерживающих индустрию и геймдев, индустриальных хабов поддержки не получили. Что ж, этот матч проигран 🌟 Пускай сейчас проигран бой, но не проиграна война, — как пел Семён Слепаков Во-вторых, в этом году в Нижнем конференции тоже не будет. Рассвет геймдева в Нижнем не случился. А шо вы хотели? Два года на волевых тащить эту историю, вложить в нее более миллиона рублей и получить 0 интереса от Правительства и 0 внимания от развивающих креативную и IT-индустрии структур 😳 Какая боль! Какая боль! Государство - Сироткин 5:0 Подвыгорели, ушли своими инвестициями в другие проекты. Никто и не вспомнит, конечно, что именно я в 2024 году предложил приехать в Нижний iXBT, и они приглашение приняли. Кроме разве что нижегородской геймдев-тусовки ✋ Однако в этом бесспросветном царстве забрезжил лучик надежды. Все, как всегда, просто: если ты не можешь что-то сделать сам, то все может пойти не так. Значит, надо делать полагаясь только на себя. Ни на гранты от государства, ни на поддерживающие IT в регионе структуры, ни на федеральные ассоциации, ни на частных инвесторов. Только на себя. Хотя многие проекты в одиночку, без помощи, никак не одолеть, и это нужно признать 🤵 Конечно, можно провести фестиваль почти без затрат. Найти площадку, собрать спикеров. Но это все будет не масштабно, это пройдённый и изученный этап. Это уже неинтересно. Пожалуйста, простите 👍 Но решение есть. Есть то, куда хочется шагнуть. Прямо по-настоящему окунуться в пучину. И этот водопад в бездну онлайна называется ОНЛАЙН-ФЕСТИВАЛЬ 📺 Почему я хочу сделать именно ОНЛАЙН-ФЕСТИВАЛЬ? 🤔 Во-первых, минимум затрат. Никому ехать никуда не надо, физическая площадка не нужна. А значит не надо стоять с протянутой рукой и оббивать пороги 🚪 Во-вторых, прийти могут все желающие, выступить могут все желающие, показать игры могут все желающие. ВЫ КАКИЕ ЖЕЛАЮЩИЕ? 😎 И трансляцию всего-всего можно запланировать и провести своими силами. Круто? Круто! В-третьих, это новый опыт. 🔘Да — мы словим шишек 🔘Да — огребем недовольства и хейта 🔘Да — отмозолим попы от сидения на креслах у монитора и выйдем с красными глазами через несколько суток 🤙 🔘НО — это манифест независимости 🔘НО — это революция против системы 🔘НО — это прокачает наши навыки. А ради чего мы живем, если не для обучения чему-то новому? В-четвертых, онлайн формат может заиграть по-новому. Да-да 🌟 Нам предстоит найти точки роста и понять, как расставить акценты. Вместе с вами. Связаны 🤕 Друзья, спрошу вас. Вы придёте на ОНЛАЙН-ФЕСТИВАЛЬ? 🐱 ДЕЛАЮ? 🚶‍♀️

ФУХ ВСЁ! я тут всю неделю доклад для конференции правила, чтобы уже чистовик получился, наконец более менее закончила на неделе поставлю созвон с ребятами в чате приватки для его прогона, чтобы фидбэк получить + успеть что-то ещё поправить + и дать людям возможность (кто не может приехать на конфу) всё равно его посмотреть сказать что я заебалась в подготовке ничего не сказать... но мне очень понравилось его писать с отсылками и мемами, надеюсь и вам зайдет такое объяснение финансов) и боже как же я кайфану когда всё это закончится и выступлю!!!!! куплю себе огромную куру гриль, пересмотрю интерстеллар и пойду в горы собирать грибы, потому что усилия над собой надо праздновать красиво 😎

KDD’26, день первый. На конференции собралась индустриальная тусовка — приехали ключевые рекомендательные команды из вообще ВСЕХ больших компаний. 1. Сходил на первую половину Tutorial on Generative Recommendation: Foundations and Frontiers от Kuaishou и City University of Hong Kong. Выделили два (будущих?) тренда: * если изначально все использовали encoder-decoder модели для генеративного ретривала, потому что в них было удобно впихивать богатый контекст; то сейчас двигаются в сторону decoder-only моделей, которые лучше скейлятся * диффузионные подходы, при которых мы предсказываем сразу все семантические токены целевого айтема — очень перспективное направление, которое позволяет избавиться от аккумуляции ошибок при авторегрессивной генерации токенов После кофе-брейка я на туториал не вернулся, потому что: * были супер энциклопедические слайды, на которых просто перечислялось много статей по паре минуток каждая, очень поверхностно, без инсайтов, с неточностями * при этом не было живого рассказа - весь текст просто зачитывался. Надеюсь, потом выпустят с этим текстом техрепорт)) Ну а если серьезно, то проще потом слайды полистать, наверняка какие-то инсайты все-таки будут ближе к концу рассказа 2. Пообщались с Федором Борисюком. Когда возле него осталась только наша русская компашка, Федор сам первый перешел на русский язык :) Что рассказывал: * если я все правильно понял, он сейчас руководит тремя командами. Что-то возле поиска и рекомендаций * статьи пишут по выходным. К процессу привлекается большое количество коллег. Федору просто нравится писать статьи и прокачивать репутацию, а у коллег есть мотивация участвовать как минимум чтобы получить грин-карту)) * сам Федор сторонник того, чтобы на работе со всеми уважительно и дружелюбно обращаться, налаживать хорошие отношения. И максимально коллаборироваться, делать совместные проекты. Но говорит, что это иногда приводит к плохим последствиям, во время политических игрищ * у него всегда часть проектов долгосрочные, а часть краткосрочные. Долгосрочным как правило занимается небольшая команда из 2-3 человек. Если проект планируется на год-полтора (больше бизнес вряд ли вытерпит), то расставляются майлстоуны на каждые полгода с оффлайн-метриками * если попался плохой руководитель, то надо просто ротироваться и не мучаться :) * через полтора месяца должен быть дроп крутой новой статьи от Линкедина 3. Воркшоп Two-sided Marketplace Optimization: Search, Discovery, Matching, Pricing & Growth. Было выступление от Director of Research @ Spotify, Paul Bennett — From User Needs to Ecosystem Design: How AI Is Reshaping Discovery. Рассказывал про разные сценарии, в которых применяют LLM: * steerable recommendations — тюнят модель с помощью контрольных токенов выдавать familiar (пользователь уже взаимодействовал с подкастом >10 минут за последний месяц) и unfamiliar (обратная ситуация) контент в рекомендациях. Похоже на мою идею с обуславливанием, про которую рассказывал на Turbo ML Conf 2025 * Intent-aware search — в поиске есть разные сценарии; иногда нужно просто включить рекомендации с какими-то настройками, иногда запустить реальный поиск, иногда просто найти артиста, иногда что-то еще. LLM можно использовать как router, который определяет в какой api (recs/search/etc) нужно отправлять запрос * Conversational discovery — часто пользователь сначала сам не понимает какие ему нужны рекомендации; и только в процессе взаимодействия с рекомендательной системой начинает понимать чего все-таки хочет. И для этого как раз multi-turn диалог, в котором он может и промежуточные рекомендации получить, и пообщаться с рексистемой 4. Что еще: * на конференции 70+ русскоговорящих участников, это очень много. Много людей со статьями, а еще есть студенты с ИИ360 программы. Жутко им завидую, меня бы кто на первом-втором курсе на конференцию отправил! Говорят, что ничего непонятно, но все очень вдохновляет) * все офигевают от джетлага * даже в Линкедине (!) разработчики слушают наш DeepRecsys курс :)

🇯🇵 Меня пригласили выступить на JAPAN & AI SUMMIT 2026 Помните, я получил премию ИИ-гуру от RuCode? Кажется, наверху это не осталось незамеченным Недавно мне написали организаторы конференции – само японское правительство меня приметило и позвало на JAPAN & AI SUMMIT 2026. Оплатили перелёт, проживание и даже такси из аэропорта Еду сейчас в этом такси, а на спинке переднего сиденья крутят рекламу того самого саммита. Приложил фото к посту Саммит – это что-то. Главный зал прямо в парламенте, делегации из 40 стран, роботы разносят матчу и суши, синхронный перевод на 12 языков. Мой доклад воткнули между вице-министром цифры и каким-то дядькой из FLUX За кулисами тот самый дядька жмёт мне руку и говорит, что давно читает канал – даже китов иногда ставит Примерно так выглядят сны с температурой в 40 градусов. Но я сейчас действительно в Японии – пишу этот пост, пока жду свои суши. А вам снится работа в горячке? @tagir_analyzes

ICML 2026 — личные впечатления Конференция закончилась, но говорить о ней можно ещё долго. Сегодня личными впечатлениями с нашим каналом поделился старший разработчик команды инфраструктуры обучения YandexGPT Владислав Тыцкий.

Конференция ощущалась очень масштабной: много людей, огромные залы для докладов, плотное расписание и буквально бесконечное количество постеров. Иногда возникало ощущение, что между интересными работами нужно не ходить, а почти бегать. Для себя я в основном смотрел темы вокруг pretraining, scaling, MoE, efficient training и разных попыток лучше понять динамику обучения LLM. В этом смысле конференция оказалась очень насыщенной: почти в каждой постерной сессии находилось несколько работ, которые хотелось разобрать подробнее. Постерный формат показался мне самым полезным. На докладах — особенно в больших залах — немного теряется камерность: масштаб впечатляет, но вовлечённость аудитории ощущается слабее. У постера проще быстро понять основную идею, задать автору вопрос и уйти либо с хорошим инсайтом, либо с пониманием, что работа тебе не очень релевантна. Отдельно понравилась инфраструктура конференции. У ICML очень удобные сайт и приложение: можно собирать расписание, смотреть материалы онлайн, возвращаться к записям и в целом не чувствовать, что ты полностью пропустил материал, если не успел попасть на доклад. Плюс Gangnam оказался приятным районом для такой конференции: вокруг много кофеен, мест для еды и просто красивый бизнес-квартал, по которому интересно гулять между сессиями. ICML большая, шумная и местами немного перегруженная, но при этом очень полезная. Особенно если заранее понимать, какие темы тебе интересны, и не пытаться посмотреть вообще всё.

Владислав также рассказал о некоторых запомнившихся постерах. Variational Routing: A Scalable Bayesian Framework for Calibrated Mixture-of-Experts Transformers Статья об uncertainty-aware routing в MoE. Идея в том, чтобы добавить неопределённость именно в router — место, где MoE и так принимает важное и довольно хрупкое решение. Практически интересно, что такой слой можно дообучать уже поверх обученных моделей. В экспериментах это улучшает калибровку и устойчивость роутера к шуму при небольшом дополнительном компьюте. Decoupling the “What” and “Where” With Polar Coordinate Positional Embeddings Работа о позиционных эмбеддингах и RoPE. Авторы обсуждают, что в RoPE могут смешиваться content- и position-информация, и предлагают PoPE — способ лучше развести «что» и «где». Не уверен, что это прямо новый дефолт вместо RoPE, но сама идея про content phase и positional phase показалась интересной. BAS: Bridging Adam and SignSGD for Memory-Efficient LLM Training Постер о memory-efficient-оптимизации. Авторы пытаются приблизиться к Adam-like динамике, но снизить память за счёт block-wise статистик. Плюс используют трюк с sign update, что делает работу интересной не только с точки зрения оптимизации, но и с точки зрения практических ограничений больших обучений. Revisiting Efficiency–Accuracy Scaling in Mixture-of-Experts Architectures Hardware-aware-работа о трейд-оффе между качеством и стоимостью MoE. Авторы предлагают LatentMoE: скоры роутера считаются в исходном пространстве, после чего токены — перед отправкой к экспертам — проецируются в пространство меньшей размерности. Это уменьшает объём all-to-all и стоимость вычисления экспертов. Сэкономленный бюджет можно вложить в большее число экспертов и больший top-k. #YaICML2026 Душный NLP