ИИ

Вышел технический репорт о Sona – модели, которая заменила весь рекомендательный стек Яндекс Музыки https://arxiv.org/abs/2608.11015 Эта модель – итог целого года работы. И это лучшее внедрение трансформеров в истории А/B-тестов в Яндекс Музыке. Но главное здесь, что Sona – это одна модель. До этого продакшн-каскад рекомендаций Яндекс Музыки включал в себя 15+ генераторов кандидатов плюс ранжирование на сотнях ручных фич. И это все заменили единой моделью, обучаемой end-to-end. Это даже звучит сложно, а на деле несет за собой еще больше проблем и нюансов, чем может показаться на первый взгляд. Вот три центральных момента: 1️⃣ Раньше, в подходах типа OneRec, ранжирование считала отдельная модель на ручных фичах. Sona же должна была стать единым рецептом обучения и инференса, то есть декодер (который генерирует кандидатов) и ранкер (который их ранжирует) должны использовать один и тот же энкодер user-эмбеддингов, которые рассчитываются один раз за запрос. А значит – надо обходиться без ручных фич. Но проблема в том, что явный сигнал (лайки, репиты) довольно редок, чтобы выучить ранжирование напрямую. Поэтому тут встроена дистилляция. Сначала обучали Teacher Ranker. Это большая, медленная, но очень умная модель, которую тренили аж на годе логов. Она не используется в проде и нужна для того, чтобы научить шустрый Ranking Module воспроизводить ее скоры. 2️⃣ Так как Sona – это encoder-decoder, обучаемый хронологически на Next Token Prediction, каждый трек нужно представить в виде токенов. Это называется Semantic ID. И тут кроется парадокс: чем больше растет словарь токенов, тем модель должна быть умнее, но на самом деле она просто не успевала эффективно использовать возросшее пространство и деградировала. Поэтому одной из самых сложных частей было сделать рецепт токенизации, который бы обеспечивал рост качества при росте словаря. Дьявол кроется в деталях. 3️⃣ Ну и, конечно же, инфраструктура. Переход на одну модель потребовал фактически нового движка рекомендаций, включая сложный online learning pipeline. Кроме того, авторегрессивная генерация с длинными историями – это дорого, и поэтому пришлось прорабатывать отдельные архитектурные трюки (History Compression, кастомные CUDA-кернелы, radix top-k), просто чтобы уложиться в приемлемую латентность. Ради чего была вся эта огромная работа? На этот вопрос хорошо отвечают метрики. Sona принесла: +4,53% Active Users, +6,30% Total Listening Time и +11,42% Likes. Причем это прирост поверх улучшений от предыдущих внедрений, которые оставались в контрольной выборке в продакшне. В планах у команды – масштабирование, добавление RL и, конечно, раскачивание Sona на полный трафик. Поздравляем ребят с грандиозными результатами!

😏 Очередной пример, что почти всё можно реализовать кодом: Понравились у одного дизайнера вот эти дудл-арты, он рисует каждую отдельную черточку кодом Так что я конвертировал его идею в промт, можно генерить любую тему, не только людей:

[naive hand-drawn human doodle faces] Write one self-contained HTML file with no libraries and no image assets that uses canvas 2D to draw a grid of 40 variations of the subject in brackets above on textured off-white paper: give each one its own seeded PRNG (same seed = same drawing, click one to reroll it, one button regenerates the whole sheet); start by breaking the subject into 6-12 named parts, each a tiny function with several variants assembled from arcs and curves (that granularity means an eye is two arcs plus a pupil, a nose is one long curve around a tip); then put a rough 3D armature under the 2D art — the simplest solid the subject implies, an ellipsoid for a head or a body, a tilted disc for anything radial, a curve for anything that grows — give it random yaw/pitch/roll and pin every part to a (u,v) anchor on it, projecting that anchor to 2D for position but taking each part's orientation and scale from the armature's own global axes rather than the surface tangent (or the parts converge at the poles), and hide parts whose surface normal faces away; draw everything with a handmade pen: build point arrays, offset them by a smooth low-frequency wobble (a few summed sines, never per-point noise), stroke with round caps in one or two passes at slightly different width and opacity, scatter short scratchy hatch strokes, fill the heaviest masses solid black; then add a rules layer so nothing slides off the form — clamp parts inside the silhouette, keep anything worn or attached sitting on its outside, drop occluded parts on hard turns; keep the style deliberately naive and asymmetric — wobbly outlines, mismatched pairs, ink #232a22 on paper #e9e3d6, with occasional flat muted colour patches (terracotta, sage, dusty rose) laid under the ink.

Никаких библиотек, чисто ваш Claude + JavaScript + Canvas 2D А если еще докинуть к этому seed случайности, то получаем похожие но всегда уникальные образы Применение придумайте сами) ☕️ @tips_ai

Когнитивная нагрузка с приходом агентов Кодить стало очень легко и просто. Агенты за час без багов и проблем могут сделать такой объем, который раньше я бы делал пару дней с кучей багов и нервов. Сейчас внутренние продукты пилятся со 100-кратной (без преувеличения) скоростью. И как же сильно от этого устает мозг, но устает по-новому. Раньше основная нагрузка была в написании кода: вникнуть в библиотеку, поправить стили, отловить опечатку, разобраться, почему в одном браузере все едет. Сейчас этого почти нет. Вместо этого постоянно нужно думать о том, что именно делать и зачем. Поставить задачу. Не "сделай красиво", а нормально сформулировать. Спланировать реализацию вместе с агентом. Продумать детали и мелочи, которые агент не увидит. Принять продуктовое решение по каждой мелочи. И так по каждой задаче. Мозг реально устает от работы совсем по-новому: раньше такое количество принятий бизнес-решений у разработчика явно не было. Но есть и другая сторона! Вечером, перед окончанием работы, тратишь пару часов на заготовку задач агенту. Запускаешь агента и идешь домой. Через 5-6 часов получаешь ответ, что все готово. Утром приходишь и видишь, что 95% от всех задач сделаны, прекрасно оформлены и уже готовы к релизу в прод после моих проверок. И за эти 5-6 часов он делает столько, сколько я бы делал несколько недель... Я к этому одновременно уже привык и не представляю иначе и, в то же время, никак не могу к этому привыкнуть!

Посмотрел свежее интервью Митчелла Грина из Lead Edge Capital. Понравилась его формулировка: мы вполне можем быть в AI пузыре, он когда-нибудь лопнет, и при этом AI всё равно окажется больше интернета. Одно другого совершенно не исключает. Но занимает меня сейчас другое. Где в итоге останется экономическая ценность? Сегодня кажется, что ответ очевиден и это в железе. На фондовом рынке уже видна ротация от software к hardware. Nvidia стала главным символом AI бума, рядом растут производители памяти и сетевого оборудования, а также энергетическая инфраструктура. Хотя тут есть любопытный парадокс дешёвых токенов. Сами модели стремительно дешевеют: open source догоняет frontier-модели, Китай тоже. Тот же Kimi выпускает модели, которые по ряду задач приближаются к Claude, но стоят в разы дешевле. Корпорации уже активно считают экономику токенов - Uber, Spotify, Airbnb и другие могут запускать inference на открытых моделях через Fireworks, Baseten и аналогичные платформы существенно дешевле. Для огромного количества корпоративных задач прошлогодняя модель уже хватает с головой. То есть интеллект постепенно превращается в обычный товар. Казалось бы, для AI-инфраструктуры это медвежий сценарий: токены дешевеют, значит и денег на вычисления уйдёт меньше. Я думаю, будет ровно наоборот. Это парадокс Джевонса: рост эффективности ресурса часто не уменьшает его потребление, а увеличивает. Если inference подешевеет в 10 раз, компании не станут тратить в 10 раз меньше. Они запустят в 100 раз больше агентов. То, что сегодня экономически оправдано только для Fortune 500, станет доступно компании из 50 человек. А крупная корпорация вместо нескольких AI-use cases сможет постоянно держать тысячи агентов в продажах, разработке, finance, procurement, legal, customer service и R&D. Цена токена падает, а количество токенов растёт ещё быстрее. Поэтому среди моих фаворитов на этот год Nvidia, Micron и Broadcom. Для меня это три слоя одной ставки на экспоненциальный рост вычислений: ускорители, память и сетевая часть с заказными чипами. Но есть и риск. Исторически каждый раз, когда казалось, что вся ценность теперь навсегда осталась у производителей чипов, сами чипы со временем тоже коммодитизировались. Так что совсем не факт, что Nvidia будет забирать непропорциональную часть экономики AI следующие 20 лет. Но вот что произойдёт выше, на уровне приложений, понятно ещё меньше. Появятся ли огромные специализированные AI компании в медицине, legal, finance и enterprise software? или Claude, OpenAI, Gemini и open-source модели постепенно съедят большую часть этих приложений сами? По-моему, это сегодня и есть главный инвестиционный вопрос. Тут я честно не знаю. Мы пытаемся угадать победителей игры, которая началась пару лет назад и спокойно может тянуться ещё лет тридцать. Так что я допускаю и пузырь в оценках, и коммодитизацию моделей, и даже коммодитизацию чипов когда-нибудь, а вот коммодитизацию самого спроса на вычисления представить пока гораздо сложнее. Чем дешевле становится интеллект, тем больше железа потребуется миру, чтобы его производить. @maxvotek | linkedin | substack

✔️ Корпоративные клиенты игнорируют Fable 5 По данным финансовой платформы Ramp, бизнес не спешит переходить на самую мощную из доступных моделей Anthropic. За первый месяц после релиза на Fable 5 пришлось всего 6% от общего числа купленных через API токенов.

Рамп оговаривается, что выборка данных для Fable получена из собственной системы по управлению расходами токенов и несколько смещена в сторону технологических компаний. Фактическое внедрение Fable, вероятно, еще ниже этих оценок, если предположить, что Fable 5 используется в основном для кодинга.

Главной причиной слабого старта аналитики называют завышенный прайс - при цене $10 за миллион входных и $50 за миллион выходных токенов модель обходится вдвое дороже, чем GPT-5.6 Sol от OpenAI. В результате флагман Anthropic принес на четверть меньше выручки, чем топовое решение главного конкурента, несмотря на свою более высокую производительность. Слабые продажи Fable 5 вскрыли другую проблему - компаниям всё сложнее просчитать реальную окупаемость топовых ИИ-решений. Прирост в качестве ответов часто оказывается неочевидным в рутинных рабочих задачах и не оправдывает переплату. На фоне того, как разрыв в возможностях между коммерческими гигантами и открытыми решениями сокращается до нескольких месяцев, корпоративные пользователи всё активнее мигрируют на open-source. Эта тенденция уже привела к замедлению темпов роста клиентской базы как у Anthropic, так и у OpenAI. @ai_machinelearning_big_data #news #ai #ml

Кому в Требло? Приведу вот такой такой пост из коментов от Александра. Обозначает довольно интересные плюсы Treblo и минусы Suno. Очень любопытно, особенно про датасеты. На днях стало интересно проверить, насколько у них (Требло) реально большая база. Спарсил список из 35 000 исполнителей по 6 странам (брал топы из last.fm, строго в порядке убывания популярности). По косвенным признакам понял, что метаданные для обучения они тянули из MusicBrainz. Сопоставил списки, чтобы вытащить все возможные варианты написания. Написал скрипт и аккуратно прогнал всю эту базу через их валидатор. По цифрам: из 35 000 артистов валидацию успешно прошли около 15 000. База действительно огромная. Даже когда скрипт дошел до самого конца списка и проверял глубокий андеграунд, процент узнавания держался в районе 40%. Судя по наличию одних артистов и отсутствию других, сам датасет они собирали где-то в 2022–2023 годах. Из обидного. Русскоговорящих исполнителей там сильно меньше, чем западных. Если из топа США пробивается около 90% имен, то из нашего сегмента от силы 30%. Но у такого гигантского датасета есть крутое преимущество. В отличие от Suno, у которого большинство треков страдает от одинакового мастеринга и шаблонных тембров, Treblo выдает сумасшедшее разнообразие в звучании. Этим платформа очень напоминает ранние версии Udio. Если правильно подобрать теги, можно вытащить всё что угодно: хоть хор балканских бабушек, хоть ритуальные богослужения (в Suno такое получить практически нереально). Правда, из-за такой всеядности и огромной базы нейронка гораздо чаще ловит звуковые артефакты и галлюцинации. Но за пределами моего списка лежат еще десятки тысяч рок-групп, финских метал-бэндов, блюзменов из 30-х годов и аниме-композиторов, чьи альбомы когда-то были выгружены в сеть и размечены в MusicBrainz. Так что, не удивлюсь, если количество артистов в их базе переваливает за 50 000. P.S. Вообще, учитывая, как бескомпромиссно они сожрали гигантские объемы защищенного копирайтом контента, ребята ходят по очень тонкой грани. P.P.S. Я не говорил, что Suno в принципе не может сгенерировать хор как таковой или какой-нибудь специфический жанр. Речь о том, что он очень скуден тембрально и текстурно. Suno выдает дистиллированный, прилизанный звук. У него всё звучит так, будто это записано в 2010/20-х на одной и той же аппаратуре. Грубо говоря, если попросить Suno написать гранж в стиле Nirvana, это будет звучать так, словно Курта Кобейна загнали в современную студию, дали новенькие блестящие инструменты из магазина, а сводил всё это дело модный поп-продюсер из 2010-х. А сразу за Нирваной в очереди в эту же студию стоят те самые балканские бабушки, чтобы записаться в тот же микрофон. Звучать они в итоге будут так же стерильно, как бэк-вокалистки Дуа Липы. Нет грязи, нет аутентичности пространства и времени. Примеры (текст просто эхолалия под языки тех регионов, смысла в нём нет): 1.mp3 Балканский хор. У Treblo слышна аутентичность региона, специфическое звукоизвлечение и народное пространство. Suno, возможно, взял бы специфичные для региона гармонии и узкое звукоизвлечение, но на этом всё. 2.mp3 Биг-бэнд в стиле 50-х. Звук похож на запись 50-х, с нужной сатурацией и артефактами, которая записана на оборудовании 50-х и снята с оригинальных носителей. В Suno такого винтажа не добиться, модель всё равно попытается сделать звук чистым и современным, максимум, искусственно добавит треск пластинки. Она возьмёт структуру, инструменты и аранжировки из 50-х, но звучать это будет как современный Big Band. 3.mp3 Африканский хор. Очень крутая детализация, там слышно характерное пощелкивание языков и артикуляцию. Suno бы свёл африканский хор к американскому госпелу. В общем, в Suno хор получится масштабным, но это будет скорее универсальный хор из голливудского трейлера с щепоткой каких-то вариативных характеристик. При этом я ни в коем случае не хочу сказать, что Suno плохой, а Treblo хороший. Они оба крутые. Просто Suno больше заточен под современный коммерческий продакшен и аранжировки, а Treblo лучше справляется с аутентичной фактурой @cgevent

Новый термин из мира AI-кодинга - «catastrophic remembering». Исследователи изучили 1 867 GitHub-репозиториев и заметили проблему: файлы вроде CLAUDE.md со временем только разрастаются. Количество инструкций в среднем выросло на 226%, а старые правила удалялись всё реже. Проблема в том, что агент продолжает помнить правило, когда разработчики уже забыли, зачем оно вообще появилось. Получается своеобразная «трещотка»: после каждого бага в промпт добавляется новое ограничение, но почти никто потом не возвращается проверить, актуально ли оно. Авторы предлагают простой фикс из обычной разработки: рядом с каждой инструкцией хранить скрытый от модели комментарий с причиной её появления - какой был сбой, гипотеза и чем всё закончилось. В эксперименте это почти полностью остановило раздувание промпта: вместо +211,3% размер вырос всего на 1,4%, при той же точности выполнения ограничений. Paper: “Why Does CLAUDE.md Keep Growing? Catastrophic Remembering in Agentic Coding” https://arxiv.org/abs/2608.11095

#пятничныемысли Посмотрел интервью одного кучерявого блогера с Андреем Дороничевым, зацепило много мыслей и я решил собрать самые вкусные, погнали: первое. Все представляют себе AI как умного помощника в телефоне, такого Эйнштейна в кармане. Метафора красивая только Эйнштейна нельзя было скопировать, а модель можно, и прямо сейчас Anthropic может посадить 500 миллионов таких Эйнштейнов в дата-центр и попросить их пахать круглосуточно без выходных и без жалоб. ТОльк это не помощник - это страна гениев. Вдумайтесь в эту фразу на секунду. Далее - впервые в истории больше нет дефицита интеллекта. Всегда было мало хороших врачей, инженеров, юристов, и вся наша жизнь была построена вокруг этого дефицита. Успех измерялся тем кем ты стал. А теперь, говорит Андрей, успех это сколько раз за жизнь ты сумел стать кем-то новым. Потому что быть кем-то одним в мире который меняется каждые полгода это уже не стратегия - это приговор. Крутая мысль про код - первую версию Claude писали люди руками, вторую писали люди с помощью AI, третью писали люди которым помогали агенты, а сейчас новая версия Claude Code на 80% написана самим Claude Code. За пару лет мы видим всю эволюцию от «мы пишем код» до «код пишет сам себя». Потом Андрей рассказал историю из Руанды. Женщины в кризисном центре обучают AI за доллар в час, по сути тренируют робота который потом заберёт даже их работу. Он спрашивает: «Вы не боитесь?» Они говорят: «Нам сейчас деньги нужны, а завтра разберёмся.» И тут он поворачивается к камере и говорит что инженеры в долине делают ровно то же самое, просто за $300k. Разница только в зарплате. Ситуация один в один. Жёстко? О да. Думаете куда отдать детей учиться? Как вам идея: - когда AI обесценивает вопрос «как что-то сделать», единственным важным становится «зачем это делать вообще». И знаете что? Компании уже нанимают философов. Вот прям людей с философским образованием в коммерческие конторы. Андрей говорит что если бы сейчас шёл учиться, пошёл бы на философию и физику. Не на computer science, не на MBA. На философию - КАРЛ. Apple он конечно разнес. Просто: продолбали. Культура заточена под крафт красивых устройств, а AI требует серверов и сервисов, и это никогда не было их сильной стороной. Когда спохватились, начали метаться, подписывать сделки то с одними то с другими, наляпали рандомных AI-фичей которыми никто не пользуется. Больно наблюдать честно говоря. Ну и на последок. Возможность отупеть была у человечества всегда, AI тут вообще ни при чём. Бабушка из Индии ругала внучку за то что та читает книги вместо того чтобы руками работать. Потом ругали за телевизор. Потом за интернет. Каждое поколение находит свою причину деградировать, и каждое поколение находит причину не деградировать. Весь вопрос внутри: зачем тебе вставать если можно не вставать. Целиком интервью на ютубе) Серьёзно рекомендую посмотреть, особенно если строите команду или думаете куда двигаться дальше. Там ещё куча всего про гонку Китай vs США, про AI в разработке лекарств и про то почему Anthropic сейчас всех обошёл. 👉 t.me/huntermikevolkov - здесь про людей и технологии которые меняют найм Буст каналу💪