🌟 Tencent открыла набор мультимодальных эмбеддингов Команда WeChat китайского техгиганта выложила в открытый доступ семейство эмбеддинг-моделей WeMM-Embedding, предназначенных для создания универсальных векторных представлений. Набор работает с текстом, изображениями, видеороликами, сложными визуальными документами и смешанным контентом, объединяя их в единое семантическое пространство. Эмбеддинги учили с использованием Matryoshka Representation Learning, который позволяет на этапе применения обрезать размерность вектора, экономя память и вычисления. Построено семейство на Qwen3.5, на выходе младшая модель дает нормализованный вектор на 2048 измерений, а старшая - на 4096.

Tencent приводят цифру, что при сжатии до 256 измерений двухмиллиардная модель сохраняет 98,7% исходного качества на задачах с фото и видео.

Опубликованы веса трех размерностей: 2B, 4B и 9B 🟡 Тесты 9B берет новый лучший общий результат на MMEB-v2 (80,6 балла), а 2B обходит Qwen3-VL-Embedding, который вчетверо больше нее. Но есть аргумент посильнее бенчей - семейство работает в рекомендациях и поиске WeChat. Она развернута для обработки каналов, аккаунтов и электронной коммерции.

Команда мессенджера говорит, что WeMM-Embedding показали стабильные улучшения в 14 онлайновых A/B-тестах.

Модели работают с библиотекой Transformers и поддерживаются vLLM и SGLang.

Единственным ограничением текущей версии является отсутствие поддержки аудио

📌Лицензирование: Apache 2.0 License 🟡Arxiv 🟡Веса 🖥Githib @ai_machinelearning_big_data #AI #ML #Embeddings #WeChat #Tencent

Прочитал отличную заметку Shopify про gisting — сжатие системного промпта в обучаемые токены. По сути, это компиляция промпта. У GraphQL-агента Sidekick системный промпт занимал около 6 000 токенов, которые постоянно приходилось обрабатывать снова и снова. Prefix caching решает проблему лишь частично. Модели не нужно повторно вычислять KV cache для промпта, но при генерации каждый новый токен всё равно работает со всем контекстом. Чем длиннее промпт, тем больше памяти и времени требуется на каждый шаг декодирования. Придумали логичную штуку применить: gisting Как работает gisting. Сначала Shopify выбрали коэффициент сжатия 4:1(это гиперпараметр) и создали 1 500 новых специальных токенов вместо 6 000 исходных. Эти токены не были выбраны из системного промпта и не являлись его текстовым summary. Это просто новые ID вроде <GIST_1>, <GIST_2> и так далее. Дальше: * Все веса модели замораживаются. Обучаются только эмбединги новых gist-токенов. * Teacher-версия модели получает полный системный промпт, запрос пользователя и начало правильного ответа. На каждой позиции она выдаёт распределение вероятностей следующего токена. * Student-версия той же самой модели получает тот же запрос и ответ, но вместо 6 000 токенов системного промпта видит 1 500 gist-токенов; * Распределения teacher и student сравниваются через KL divergence. * Градиент меняет только эмбединги gist-токенов, пока student не начинает выдавать практически те же распределения ответов, что и teacher. * Изначально новые эмбединги можно было бы задать случайно. Но Shopify нашли более эффективную инициализацию: исходный промпт разделили на группы по четыре токена, а каждый gist-embedding инициализировали средним значением эмбедингов соответствующей четвёрки. Это снизило начальный loss в семь раз. При этом <GIST_1> не становится сокращённым обозначением первых четырёх токенов. Все 1 500 embeddings обучаются совместно и в итоге кодируют не текст промпта, а его влияние на поведение модели. Получаем сжатие поведения: модель учат реагировать на короткую последовательность обучаемых векторов так же, как на длинную текстовую инструкцию. В результате примерно 6 000 обычных токенов превратились в 1 500 обученных токенов. Модель ведёт себя так, будто прочитала полный промпт, хотя фактически получает его сжатое представление. После обучения никакой отдельной архитектуры не требуется. Эмбединги записываются в embedding matrix, токены регистрируются в tokenizer, а длинный промпт при запросе просто заменяется их последовательностью. Нет дополнительного encoder, специального attention mask или отдельного serving path. Результаты при нагрузке 350 запросов в минуту: — time to first token: с 438 до 354 мс, −19%; — полная задержка: с 6,8 до 4,2 секунды, −38%; — throughput: с 20,2 до 23,4 запроса в секунду, +16%; — требуемое количество GPU: −14%. Качество при этом не ухудшилось. Как они подбирали рецепт: Autoresearch-цикл сам менял гиперпараметры, запускал обучение и оценивал результат. Так нашли оптимальное сжатие 4:1. При дальнейшем уменьшении количества gist-токенов качество начинало падать. Для другой модели, промпта и предметной области граница будет другой. Предварительный расчёт teacher logits и токенизация сократили один обучающий прогон с 30 до 6 часов. Оказалось также, что усреднение функции потерь по токенам ответа приводило к галлюцинациям, а усреднение по batch сохраняло больше сигнала от длинных ответов. Хорошее напоминание, что даже в относительно простой оптимизации детали функции потерь могут полностью изменить поведение системы. Prompt engineering постепенно превращается в обычный ML engineering. Системный промпт можно рассматривать как исходный код, а gist-токены — как его скомпилированную версию. Здесь всё знакомо: датасет, distillation, loss, evaluation, нагрузочное тестирование, мониторинг качества и стоимости. #ArticleReview

🏷 Как использовать скидки по-умному У всех, кто продаёт что-то в онлайне, со скидками вечная проблема. Да, это безотказный триггер для покупателя и двигатель продаж. Но часто бывает так, что скидочный бюджет размывается: он расходуется равномерно и неэффективно, без учёта реальных маркетинговых задач. ✍️ На Ecom Open Air Яндекс показал любопытную штуку, которая пытается эту проблему решить — «Управление скидками» в Директе. Пока в закрытом тесте, но есть надежда, что скоро раскатят на всех. В чём суть:  📌 Распределение скидок отдают алгоритмам. ML-модель анализирует обезличенные данные о покупательском поведении и показывает сниженную цену. Например, тому, кто присматривается к бренду впервые или давно у него не заказывал. 📌 Персонализация выходит за рамки CRM. Обычно скидки рассылают по готовой базе клиентов в письмах или уведомлениях, которые сразу попадают в спам. Теперь же скидка формируется персонально, прямо в выдаче Поиска — и доступна любому покупателю в каналах Яндекса, а не только своей базе постоянных клиентов. 📌 Бизнес сохраняет контроль. Продавец сам выбирает, на какие товары будет скидка, и задает общий бюджет. А дальше рутину распределения берёт на себя алгоритм. Похоже, эпоха ковровых распродаж умерла. Да здравствует эпоха умных акций. А как вы сейчас работаете со скидками? Будет интересно обсудить в комментариях. 👉🏼 Подписывайтесь на «Телеграмму...» в Максе: max.ru/yumaks #БИЗНЕС #МАРКЕТИНГ

📌Scale AI измерила, насколько хорошо модели переписывают других агентов HarnessOpt-Bench - бенчмарк, который проверяет, умеет ли модель улучшать харнесс чужого ИИ-агента. 🟡Механика Модель-оптимизатор получает исходную обвязку целевого агента, размеченную обратную связь по результатам прогонов и фиксированный бюджет. Она переписывает код, а в конце собирает финальную версию, которую оценивают на отложенном наборе задач - его оптимизатор во время работы не видит. Тесты выполняются в доверенной среде исполнения на базе VeRO - она следит за бюджетом, прячет отложенные данные, считает потраченные токены и сохраняет каждую версию для аудита.

Так сделали для того, чтобы защита от накрутки была свойством песочницы, а не инструкцией, которую модель может обойти.

🟡Результаты Прогнали пять топовых моделей на четырех наборах - OfficeQA, BrowseComp-Plus, Terminal-Bench и GAIA, - всего 111 запусков. Модели четко разошлись по уровням, причем выбор самой модели влияет на результат примерно в 1,8 раза сильнее, чем то, в каком кодинг-агенте она работает. Впереди Opus-5, она выбрала около двух третей доступного запаса улучшений на OfficeQA и половину на BrowseComp-Plus, а всего выиграла три задачи из четырех. Родная среда для модели (Сodex для GPT, Сlaude Сode для Claude, Kimi Cli для Kimi) устойчивого преимущества не дает. Отдельно Scale AI посмотрела динамику по поколениям. У пяти релизов GPT прирост рос монотонно, с +0,03 до +0,49, у пяти релизов Claude Opus - с +0,37 до +0,59.

Важно понимать, что настоящим самоулучшением это назвать пока нельзя, так как одна модель переписывает среду другого агента, исходный тестовый харнесс которого специально был сделан с большим запасом для оптимизации.

@ai_machinelearning_big_data #news #ai #ml

⚡️ Как прошел KDD На прошлой неделе прошла одна из ключевых конференций в области ML, и AI VK Research привезла туда две работы по рекомендательным системам. Темы довольно показательные. Первая: как оптимизировать retrieval не под следующий клик, а под поведение пользователя в рамках всей сессии. Вторая: как использовать MDP с матричной факторизацией для candidate generation. То есть обе работы так или иначе про одну большую проблему: как сделать классическую рекомендательную систему не просто хорошей в предсказании следующего действия, а более эффективной на длинном горизонте. Исследователи AI VK Research собрали репортаж прямо с KDD: что обсуждали на конференции, какие тренды заметны сейчас в recsys и как проходила презентация исследований команды.

ML Global Recap'H1: это 10 из 10✨ Вчера сходила на ML Global Recap'H1 2026 в Яндексе, большой митап с обзором ICML. Тот самый, который я две недели пиарила здесь в канале, а потом благополучно забыла зарегистрироваться сама. Вспомнила в последний момент, когда регистрацию уже закрыли. Выручили друзья по ШАДу и нашли для меня место, так что на самый разгар я все-таки успела. Что было полезного: ✔️Общий обзор конференции и трендов: куда движется область по итогам первого полугодия и что реально взлетело. ✔️Доклады про ризонинг, тема, вокруг которой сейчас крутится половина всего интересного. ✔️Доклад ровно по моей теме, про оценку моделей и тренды бенчмаркинга. Все никак не доходили руки разобраться, что там по статьям с ICML на эту тему, а тут готовая выжимка. Но главное на таких митапах, конечно, люди. От нашей команды собрался золотой состав AGI NLP, ребят из Sber AI было столько, что нас обогнали только местные яндексоиды. И отдельная история это встретить здесь вас. Каждый раз, когда на таком мероприятии ко мне подходят, просят сфоткаться и говорят, что читают канал, я не знаю, куда себя деть от смущения и радости одновременно. Спасибо вам, это правда очень вдохновляет и мотивирует писать дальше! Итог: 10 из 10. Полезно, интересно, вкусный кофе-брейк и отличная компания. @mashkka_ds #трудовыебудни #ml #icml #митап

Сегодня я нажал кнопку "раскатать на всех" в эксперименте, над которым моя команда работала с начала года. Эксперимент положительный, доверительный интервал глубоко зеленого цвета. Опытный экспериментатор отметит тот факт, что граница доверитильного интервала далеко от нуля, а значит confidence у этого эксперимента достаточно высокий. Вне всяких сомнений, это улучшение опыта клиентов немного заметное даже на масштабе всей огромной компнии. Успех в этом эксперименте фактически означает, что мы выполнили свои цели на этот год, и дальше можно работать уже имея большую свободу: вкладываться в какие-то долгосрочные проекты без немедленной отдачи, или доводить какие-то более мелкие штуки. Ну и немного улучшить ситуацию с тех. долгом, поработать над нашим собственным тулингом, углубить интеграцию с AI в конце концов. Суть улучшения не все поймут даже внутри компании, а наружу про нее говорить вообще пока нельзя, но это на стыке модного AI (LLM-driven) и классического ML. Я очень рад, что именно эта гипотеза сработала. Дело в том, что новомодный AI, конечно, обладает большими возможностями, и иногда слабо отличим от магии, но для задач, где нужно обработать огромное количество данных, он почти не применим: и дорого и медленно. Недавно стали появляться подходы, которые позволяют их эффективно скрещивать, и использовать магию LLM в том числе на BigData задачках, но они пока технически достаточно сложные. Один из них сработал у нас. Я надеюсь, через пол года об этом напишут статью, и тогда можно будет рассказывать уже в деталях, а пока просто хочется разделить с вами эту эмоцию.

Кстати, AI security specialist [blue/red team] - это очень перспективная профессия будущего. Присмотритесь, если вы связаны с IT-безопасностью или этичным хакингом, либо просто ищете себя (ну мало ли там кризис, выгорание, востребованность нужна, полезное хотите делать что-то). AI внедряется везде: в США, Европе, России; нигде бизнес не хочет проблем, утечек, исков, штрафов. А там еще авторское право, персональные данные, доступ к корпоративным секретам, обучение на клиентских данных и мой любимый shadow AI. А начинать надо с ML. Отличный бесплатный roadmap я вам кидал.

Вы уже не купили биткоин по 1$, доллар по 25 рублей, пару плашек оперативной памяти за копейки, но у вас есть возможность не проспать эпоху AI. Вайб-кодеры, промпт-инженеры - это временный переход, НЭПманы AI, надо учить фундаментально устройство AI, математику и становиться настоящим специалистом, тех кого гордо называют инженеры. Ссылку, чтобы начать, я дал выше.

🌟 NVIDIA открыла доступ к самой крупной модели для беспилотных автомобилей Alpamayo 2 Super - рассуждающая VLA модель на 34 миллиарда параметров, которая сшивает изображение с передних, боковых и задних камер в круговой обзор и рассчитывает траекторию движения.

Впервые NVIDIA показала её на конференции GTC в Тайбэе в начале июня, но доступ открылся только сейчас.

NVIDIA делает упор на редких ситуациях, с которыми беспилотники справляются хуже всего, - перестроения, повороты через встречный поток, перегруженные перекрёстки. В основе лежит Cosmos 3 Super Reasoner, после базового обучения модель прогнали через RL, то есть на последствиях её собственных решений в смоделированных поездках. Помимо маршрута модель выдаёт текстовое обоснование манёвра, и оператор-разработчик может проследить, какая деталь в кадре привела к конкретному решению.

В компании связывают это с проверкой безопасности по стандарту ISO/PAS 8800 и предлагают использовать тот же механизм для автоматической разметки видео с тестовых машин - расшифровки, которая обычно занимает месяцы ручной работы.

В тесте LingoQA, где систему просят объяснить дорожную обстановку, NVIDIA ставит Alpamayo 2 Super на первое место и утверждает, что модель обходит Qwen2.5-VL 72B на 17 пунктов, а Gemini 2.5 Pro примерно на 15.

Лицензия модели позволяет дообучать Alpamayo 2 Super на собственных данных и ставить в серийные машины.

📌Лицензирование: Open MDW 1.1 License 🟡Блогпост 🟡Модель 🖥GitHub @ai_machinelearning_big_data #AI #ML #VLA #AutonomousVehicles #Alpamayo #NVIDIA

ИИ уже соревнуется с ИИ Вчера Дуров написал про международную олимпиаду IOAI 2026. В ней участвуют более 500 человек из 100+ стран, которые соревнуются в алгоритмах, ML и анализе данных. Для победителей Дуров выпустит 240 эксклюзивных Intelligence Cups. Золотой кубок можно будет продать обратно минимум за $1000. Но в 2026 году олимпиада стала еще интереснее. — Появился отдельный трек IOAI², где между собой соревнуются уже сами ИИ-модели 🏋️‍♂️ Они получают те же задачи, что и участники олимпиады, и должны решить их полностью самостоятельно: разобраться в условиях, написать код, проверить результат и отправить готовое решение. Человек может только запустить систему - исправлять ответы или вмешиваться в процесс нельзя.

Уже проверяют не просто качество ответов ИИ, а его способность самостоятельной разработки - без вмешательства человека.

🏆 Побеждает в таких олимпиадах тот кто понимать, как устроена модель. Нужно уметь разложить задачу, выбрать подход и проверить результат. В разработке происходит то же самое. Cursor помогает быстрее писать код, но не решает, что именно нужно построить и насколько надёжным получилось решение. Поэтому ценность разработчика сейчас не в скорости написания кода, а в умении поставить задачу, продумать архитектуру и проконтролировать работу ИИ. Эти навыки останутся полезными независимо от того, какая модель будет популярна через полгода-год. — А вы что думаете - интересная Олимпиада или очередной хайп вокруг ИИ? #нейросети · yt · tg · ig

✔️ Экс-сотрудник OpenAI основал стартап для создания качественных RL-данных Эндрю Хо, соавтор бенчмарка GeneBench-Pro покинул компанию ради запуска собственного проекта. Безымянный пока стартап займется генерацией специализированных датасетов для обучения LLM.

По мнению Эндрю, современные языковые модели всё ещё ограничены и предвзяты - для освоения сложных практических задач им не хватает качественных данных, которые позволили бы моделям тренироваться без вмешательства человека.

Решение Хо заключается в создании наборов данных, максимально приближенных к реальным научным исследованиям, но с заранее известными эталонными ответами. Это даст агентам возможность свободно искать алгоритмы решения, а системе - автоматически и безошибочно проверять их корректность. Эффективность такого подхода уже доказал GeneBench-Pro. В этом тесте по биологии модель GPT-5.6 Sol Pro смогла решить лишь 31,5% из 129 предложенных задач. На старте детище Хо сфокусируется на биологии, статистике и анализе реальных лабораторных снимков. Позже стартап планирует создавать обучающие выборки для химии, материаловедения, медицины и сложных офисных задач.

Хо уверен, что нехватка верифицируемых данных - это главная проблема индустрии, на преодоление которой топовые лаборатории вскоре потратят более 100 миллиардов долларов.

@ai_machinelearning_big_data #news #ai #ml