На этой неделе Яндекс опенсорснул Alice AI‑T5-35B‑A0.6B. Это обученная с нуля претрейн модель, которая отвечает за быстрые ответы на Поиске. Только что на Practical ML Conf мы слушали про этот релиз из первых рук: Артур Петросян, CTO Alice AI Search, рассказал о том, как команда обучила систему, которая дала +0.34% к продуктовой метрике Sessions Per User и в 56.7% случаев выигрывает в попарных сравнениях против Google AI Overview. — Одна из главных интересных особенностей этой модели – ее архитектура. Это Encoder‑Decoder + MoE. Последние такие модели выходили в 2021–2023 годах (не считая недавнего DeepSeek-V4.1-Flash, который вышел почти в один день с Alice AI‑T5), так что выбирать такую архитектуру было довольно необычным и рискованным решением. Не обошлось без сложностей при разработке: например, на претрейне сколлапсировал роутинг в энкодере, и пришлось сменить схему балансировки экспертов. Зато архитектура себя оправдала. Энкодер один раз читает длинный контекст из документов, а легкий декодер быстро пишет короткий ответ, что идеально для задачи «много на входе, мало на выходе». MoE при этом дает знания уровня 35B параметров при вычислениях как у 0.6B. — После претрейна с моделью также колдовали с помощью SFT и RLHF. На этих этапах модель училась писать ответ так, чтобы он был максимально полезен для живого пользователя. Интересно, что при этом команда обошлась без эталонных ответов, написанных людьми: на запрос генерировалось много ответов от разных систем, лучший отбирался автоматически по набору сигналов качества, а на этапе RL модель дополнительно училась на сигналах реального поведения пользователей Поиска. — Еще одна интересная деталь пайплайна – сжатие контекста. Чтобы не гонять через LLM огромные пачки документов, команда с нуля обучила маленькую BERT‑подобную модель на 80 млн параметров, которая занимается тем, что определяет релевантность каждого токена запросу. Далее поверх этого накладывается метод под названием Cross‑Entropy RL, и в итоге получается экстрактор, который понимает, какую именно информацию модель уже знает из весов, и какой минимальный контекст ей нужен для хорошего ответа. И да, все это – только некоторые детали работы. Про остальные нюансы обучения и строения системы можно почитать вот в этой статье на Хабр. Поздравляем команду с релизом!

AI не просто ускоряет разработку. Он меняет саму работу продакта Сегодня посмотрел доклад Андрея Попова про AI-продуктивность в Яндексе. Зашел он тем, что был не разговор в сотый раз о том, как «нейросети помогают писать код», а то, как вместе с AI меняется сама организация работы. «Нам нужно двигаться из DX в AgentX. То есть в первую очередь смотреть, как мы автоматизируем, как мы упрощаем жизнь для агентов, а потом уже жизнь для людей». Это важный сдвиг и для продактов. Сегодня мы проектируем продукт под человека: интерфейсы, кнопки, сценарии, навигацию. Но если часть работы начинает выполнять агент, ему нужны уже не красивые экраны, а доступ к данным, API, понятные действия, права, контекст и возможность самостоятельно пройти сценарий. Поэтому к UX постепенно добавляется AX — Agent Experience. Например, вместо «открой аналитику → найди сегмент → сравни показатели» можно будет поставить агенту задачу: «найди причину падения конверсии и подготовь гипотезы». Продукту придётся быть готовым именно к такому взаимодействию. В компании, по словам спикера, уже около 60% инженеров фактически перестали писать код руками, а активные пользователи AI получают кратный прирост продуктивности — в отдельных измерениях 3–5 раз и больше. При этом к концу 2026 года Яндекс планирует, что не менее 75% разработчиков будут регулярно использовать AI, он будет участвовать как минимум в 75% изменений, а в каждом из них генерировать не менее 75% кода. Но самое интересное здесь не в экономии времени. Если код становится условным «новым ассемблером», то ценность человека смещается выше: декомпозировать задачу, разобраться в новом контексте, поставить правильные ограничения, проверить результат и понять, решает ли он продуктовую задачу. То есть именно туда, где продакт работает каждый день. Есть ещё более показательная цифра: 30–40% кодовых задач — это рутина, а около 70% такой рутины, по оценке компании, потенциально можно полностью автоматизировать. Это означает, что AI постепенно убирает не только отдельные операции, но и целые куски workflow. И здесь продактам стоит перестать спрашивать «какую нашу задачу можно отдать AI?» и начать спрашивать «какой процесс меньше всего требует включения человека». Это уже другой уровень автоматизации. А дальше возникает интересный переход: человек задаёт требования → агент решает задачу целиком → система проверяет результат → следующий агент улучшает процесс. В такой модели продакт становится не просто заказчиком фичей, а проектировщиком системы, которая сама умеет исследовать, анализировать, создавать и проверять решения. Поэтому один из главных навыков продакта в ближайшие годы — не prompt engineering, а умение хорошо формализовать проблему и критерий успеха, после чего делегировать исполнение агентам. И здесь, пожалуй, главный вывод из доклада: AI будет сильнее всего усиливать не тех, кто быстрее всех научится пользоваться конкретным инструментом, а тех, у кого хорошо устроена сама работа. Если процесс хаотичный, данные недоступны, метрики не определены, задачи плохо декомпозированы — AI просто масштабирует хаос. Поэтому для продакта сейчас важнее не добавить ещё один AI-инструмент в свой стек, а пересобрать собственный workflow: что я делаю сам, что делегирую агенту, что должен проверять лично и какие решения вообще не должны проходить через меня.

🚀 Динамика рынка Индекс Мосбиржи падает на 0,7% с начала торгов 🔥 Общий фон: перемирие пока на словах Главный драйвер дня — геополитика. Пресс-секретарь президента Дмитрий Песков назвал энергетическое перемирие хорошей идеей, однако это заявление на фоне атак дронов минувшей ночью не вызвало позитивного отклика на рынке. Индекс опустился к 2345 пунктам. Дополнительное давление дает нефть. Brent дешевеет и торгуется по $105,9 за баррель. Для индекса с большим весом нефтегазовых компаний это негативный фактор, хотя среди пяти лидеров падения нефтяников сегодня нет. На уровне отдельных бумаг выделяется Яндекс. Акционеры утвердили дивиденды за первое полугодие в размере ₽110 на акцию. Это помогло бумагам войти в пятерку лидеров роста на падающем рынке. 📈 Растут • Позитив; • Мать и дитя; • Совкомфлот; • Эн+; • Яндекс. 📉 Падают • Фосагро; • МКБ; • ВТБ; • Интер РАО; • Россети. 📍 Подписаться на канал | Мы в MAX

Yandex Advanced Personal Intelligence Lab. (лаборатория перспективных исследований персонального интеллекта) Возвращаюсь в Яндекс! Моя давняя амбиция — немного подвинуть рексисоидов из Дипмайнда. Показать, что мы тоже умеем (научились) в рексис. Что у нас есть свое видение, навыки, и мы можем мощно контрибьютить в общее фундаментальное развитие рекомендательных систем. А еще персонализация — это, кмк, очень важная задача, которой в силу проф. деформации топовые лабы занимаются постольку-поскольку. И что человечество пока не сильно продвинулось в персонализации агентов/чатботов; в общем, есть куда поконтрибьютить. Чтобы эту амбицию реализовать, нужно: * построить крутую команду — такой опыт у меня уже есть. Раньше я в основном "черпал" талантов из пула ммпшников; все самые удачные наймы — это кличи на стажировку в чатик выпускников/студентов ммп. Но даже самых талантливых ребят надо было года два учить рекомендашкам/large-scale диплернингу. Сейчас ситуация проще — рексис коммьюнити / популярность рексиса среди студентов / пул кадров растут; а с онбордингом помогает дипрексис курс. * много ресурсов. Чем больше ресурсов (GPU/CPU/диск), тем быстрее ставятся эксперименты. На масштабе рекомендаций, когда мы работаем с очень большими датасетами (см. следующий пункт), без нормальных ресурсов вообще тяжело. * конкретно в рекомендашках еще важен доступ к пользовательским данным; и чем больше данных, тем лучше — особенно для текущих фронтирных направлений. * и, наконец, нужен доступ к продакшну и к коллегам, которые помогут быстро итерироваться в оном продакшне. Сильного доверия оффлайн-оценке качества в рекомендациях нет — она смещена из-за специфики пользовательского фидбека и продовой рексистемы. Для железных выводов нужны A/B-тесты. Если посмотреть на тот же (рексис) Дипмайнд — там всё сильно production-oriented и почти во всех статьях репортятся результаты A/B тестов; аналогично Spotify Research. Что в итоге имеем: * для первого пункта нужно вкладываться в популяризацию и развитие образования в области рекомендательных систем. Очень много усилий было вложено в дипрексис курс; мы на этом не останавливаемся и планируем вторую итерацию — более масштабную и ещё более актуализированную. * для остального нужно быть частью индустрии. В академии нет нужного количества ресурсов, доступа к данным нужного масштаба и A/B тестов на реальных пользователях. Так вот. Буду строить свою лабу в Яндексе! Почему Яндекс: в любом другом месте мне потребовалось бы много времени, чтобы наладить инструменты, процессы, выстроить коммуникации, встроиться в организацию. Внутри Яндекса есть разные варианты, где этим можно заниматься — я выбрал Рекламу. Почему Реклама: это самая большая и важная рекомендательная система Яндекса. На протяжении всей карьеры в Яндексе у меня было много совместных проектов с ребятами; все ключевые разработки, типа первых яндексовых рекомендательных трансформеров / Дипранкера (нейросетевого ранжирования) / Аргуса, туда успешно доехали. Команда в рекламе большая и экспертная — есть крутые зрелые R&D / продуктовые / инфровые команды, почти со всеми из которых я хорошо знаком и вместе работал. К ребятам можно органично встроиться ресерч лабой, с хорошей синергией; и с порога получить приличное количество ресурсов. Чем будет заниматься лаба: тем же, чем занималась моя бывшая команда, но с еще большим фокусом на ресерч. Я это позиционирую как applied research — делаем долгосрочные исследования, но при этом сохраняем прикладной фокус; прямо как (рексис) DeepMind и Spotify Research. Конечная цель — импакт в продуктах и рост метрик; и важно то, какими методами мы будем этого достигать — через фундаментальные исследования и фронтир, а не через инкрементальные улучшения и жесткий тюнинг под домены. А ещё очень важно при этом поддерживать и развивать ресерч культуру и делиться результатами с сообществом — писать статьи, участвовать в конференциях, преподавать. Также я рассчитываю, что наши наработки в конечном счете будут полезны не только рекламе Яндекса, но и другим доменам (в том числе горячо любимой мной Музыке <3). И что доведется повзаимодействовать с ребятами из YandexGPT и другими R&D командами (включая моих бывших коллег из рекомендательной службы!). Есть видение, куда надо двигать рекомендашки (куда нас двигает bitter lesson), и есть возможность превратить его в реальность, вместе с ребятами из рекламы. Если раньше я пытался делать сразу почти всё — ресерч, разработку инструментов, фреймворков, погружаться в продукты, внедряться — и это существенно усложняло построение сильной ресерч команды, то здесь вижу НУ ОЧЕНЬ большой потенциал для симбиоза с рекламными командами, у которых все эти аспекты уже хорошо развиты. В общем, хайп н е р е а л ь н ы й! Про образование. Для меня, наверно, самая значимая цельная вещь, которую я сделал к текущему моменту — это дипрексис курс. Хочется и дальше его развивать. Буду продолжать вести курсы в ШАДе и Вышке, а также руководить студентами; вообще, очень удобно делить идеи на сложные фундаментальные рабочие задачи и более локальные гипотез — и вторые проверять вместе со студентами. А ещё в Вышке я теперь заместитель заведующего базовой кафедрой Яндекса, что даёт мне возможность устраивать всякие разные коллабы между Яндексом и Вышкой. Если вы работаете в Яндексе и хотели бы заняться преподаванием / научным руководством, то теперь я человек, который может вам в этом помочь. P.S.: со мной можно пообщаться офлайн на Practical ML Conf 19 сентября, где я буду в качестве участника дискуссии "От исследования к продукту и обратно...". Ну или можно написать в личку. Если лаба заинтересовала, но думаете что на текущий момент нет шансов в неё попасть / не готовы уходить с текущего места, то всё равно полезно дойти до меня и выразить свой интерес, на будущее. Всё, пока, нет времени говорить, побежал двигать рексис фронтир))

Читаю вопли гражданина Не В Теме, которому не нравится, что в Небиус перешли несколько тысяч яндексоидов:

Кто допустил утечку сверхкомпетентных мозгов в области ИИ за границу и не создал им здесь необходимых условий для творческой работы? Почему кто-то другой, тот же Сбер, их не перекупил?

https://t.me/barantchik/40453 Во-первых, любой, кто много лет знаком с Яндексом (как я), знает, что ветераны Яндекса ни с кем, кроме Яндекса, работать не будут. И особенно со Сбером, с которым Волож разругался еще в ковидные годы. Лояльность к месту у ветеранов фантастическая. А во-вторых, датацентры и зарубежные офисы Яндекса выросли в 2022 году не на пустом месте, а строились уже много лет под нужды Яндекса. И многие из тех, кто работали по этим проектам, уже жили в Нидерландах или других странах. У многих были ВНЖ в Европе, а многие имели право на израильское гражданство (или само гражданство). Так что эвакуировалась только небольшая часть - и те в Турцию или Сербию (и не все там задержались, что я лично знаю). А Небиус в значительной мере - это железные и людские активы, которые и так уже там были и телом и душой. Никто ничего бы не перекупил, даже если б попытался. PS. Кстати, останься все как есть - все датацентры б конфисковали по санкциям. B никакая Nvidia б в Nebius конечно на миллиарды своих карт не "инвестировала". И уж конечно, участие спецслужб Израиля в проекте - это "предложение, от которого нельзя отказаться". вынепонимаетеэтодругое.jpg