IT-конференции под вывеской AI — это ещё больший скам, чем просто IT-конференции Онтико организовали в июле конференцию под громкой вывеской Agentic Dev Conf. Решил посмотреть доклады. Разработка с агентами, все дела, харнесс, хайповая тема, надо быть на острие. Я просто охуел от того, насколько это плохо. Доклады уровня: ну в Claude Code надо класть CLAUDE.md файл, а в остальных харнесах — AGENTS.md. И в каждом втором докладе агрессивная продажа своих вайбкодинг или околовайбкодинг поделок, в одном докладе даже реклама собственной галеры. Задачи как-то причесать доклады и сделать их хоть немного полезными просто не стояло. Новой или какой-то интересной инфы практически ноль. Парад еблоторговли. Вы скажете: ну чё ты бомбишь. Чуваки бизнес делают, пиарят свои сикс севен саасы, зарабатывают, Олег Бунин и Онтико поднимают с колен конференции — все в наваре. Я отвечу: но как бы зрители за всё это от 20 до 50к деревянных занесли. 50к за день, чтобы послушать рекламу в душном зале и схавать один шашлычок в одни руки. Да, билеты в основном покупают компании, но Олег Бунин ни раз говорил, что 10% всё-таки куплены за свои кровные. Один доклад меня поразил больше всего. Название доклада «AI — это не очередной инструмент, а новая природа организации». Даже название — нейрослоп, о содержании и говорить не приходится. Два душных корпората из Сбера начинают с фразы: «Мы здесь не для того, чтобы чем-то хвастаться, не для того, чтобы что-то продвигать и тешить свои эго». Ну-ну, рассказывайте. Первые 20 минут — лозунги и прохладное визионерство: «догнать и перегнать запад», «мы ускорились в 10 раз», пятилетку за три года. А затем 10 минут — реклама Гигакода. Гигакода, которым в Сбере даже не пользуются. Имаджинировали лица тех, кто 50к за это отдал? У конфы есть программный комитет из людей, которые торгуют просто фактом своего участия в нём. Люди с большими головами, с лычками, с бесконечным уважением в индустрии. Как-то же они должны были причесать доклады, или сказать, что откровенное рекламное говно мы не пропустим. Но всем похуй. Одним главное — засветиться в списке организаторов, другим — заработать бабосик, третьим — показать своему руководству фотографии со стенда. Бесконечный голландский штурвал. Один нормальный доклад всё же был. Вот.

Как проверять AI на духовность, выручка Anthropic дошла до $65 млрд, IT-компании не торопятся раскрывать свои долги, нашелся еще один инвестор Palabra, Google прикупил данные обанкротившейся авиакомпании 🦄 Доброе утро, наши маленькие любители единорогов! 🪆 Как в России будут проверять AI на духовность? Это обсуждали представители компаний, чиновники и ФСБ на совещании в Минцифры, пишет «Коммерсант». Вроде как хотят сделать национальный датасет — набор тестовых заданий и эталонных данных для бенчмарк-тестирования моделей. Вот только ФСБ хотела, чтобы все было закрыто. А представители компаний, включая «Яндекс», настаивали на открытости. В итоге пришли к комбинированному варианту: базовые бенчмарки открытые, а финальная проверка закрытая. Вот только непонятно пока, кто это все будет составлять и проверять. ↗️ Выручка Anthropic в годовом исчислении достигла $65 млрд, пишет Bloomberg. В марте этот показатель был $19 млрд, а в мае — $47 млрд. В общем, растут неплохо. А Business Insider пишет, что на вторичном рынке оценка Anthropic достигал $1,5 трлн. Вот только продавать никто не хочет — все ждут IPO. 💰 Девять крупнейших IT-компаний, включая Alphabet, Amazon, Microsoft, SpaceX, накопили обязательств на $3 трлн, но они не отражены в их отчетности, пишет WSJ. Это расходы на аренду дата-центров, закупку чипов и так далее. В принципе, правила бухучета разрешают не сразу отображать контракты в балансе. Но по ним все равно придется платить, большинство контрактов нельзя отменить. И проблемы начнутся, если ставка на AI и выручка от него не оправдают ожиданий. 💲 Нашелся еще один инвестор стартапа Palabra — это новый проект основателей NTechLab Александра Кабакова и Артема Кухаренко. Я вам про него уже рассказывал. Бывший инвестдиректор Mail.Ru Алексей Милевский рассказал в подкасте Антона Лядова, что он там первый инвестор после основателей. Правда, он решил не говорить, какую «большую компанию в России» они построили. До этого были новости, что Palabra привлекла $8,2 млн, а лид-инвестором выступил фонд сооснователя Reddit Алексиса Оганяна. ✈️ Google прикупил на аукционе обанкротившуюся авиакомпанию Spirit Aviation. Точнее не саму компанию, а ее данные — 100 млн мейлов, 500 млн записей в чатах Microsoft Teams, данные о доходах, эксплуатации самолетов, производительности сотрудников, пишет Bloomberg. За все заплатили $10 млн. Зачем? Все это пустят на обучение AI-моделей. Кстати, я вам уже рассказывал, что это стало отдельным бизнесом — перепродавать переписку закрывшихся стартапов. @TheEdinorogBlog — тот самый канал про стартапы🦄

MCP → CLI Я только собирался написать, почему CLI сосут, и на что их заменять, как понял, что у меня даже нет поста, почему сосут MCP (от которых мы и ушли к CLI). Исправляю! Сначала напомню в двух словах зачем эти ребята нам вообще нужны:

агент сам по себе мало что умеет в мире, где наши данные разбросаны по десяткам веб-приложений, начиная от почты и календаря, заканчивая транскрибаторами звонков, джирами и сервисами электронного документооборота

Нужно его к ним как-то коннектить. И на заре агентных систем ребята придумали подсовывать ему новые инструменты как tools (то, что агент может вызывать в цикле перед тем как дать итоговый ответ). Назвали это MCP (model-context-protocol) У стандарта MCP было много исторических болячек: невнятная аутентификация, загромождение контекста всеми методами всех mcp'шек, , отсутствие строгого следования схеме, stateful логика 🥴 Сейчас они по большей части вылечены. Но есть одна главная проблема – это все еще лишний слой абстракции поверх обычного API. И он требует модель возвращать вызов инструмента в перегруженном JSON формате. То есть, вместо вместо того, чтобы сразу дернуть API нашего условного гитхаба, обвязка нашего агента (она выполняет роль MCP клиента) отправляет это в какой-то MCP сервер (в случае с гитхаб он удаленный, но может быть и локальным), а он уже отправляет это в API Любой агент, у которого есть вызов терминала может либо написать скрипт, который будет обращаться к API напрямую, либо просто вызвать уже сто лет существующую команду gh с нужными параметрами. Всё! И вот какие у этого плюсы: 1. Жрет меньше токенов (потому что не verbose json) 2. Можно стакать вызовы команд в любой последовательности 3. Не обязательно засирать контекст модели всем выводом. Перенаправляем и фильтруем вывод терминальной команды как душе угодно 4. Обычно сильно больше комбинаций параметров 5. Если какой-то функции или параметра нет, агент все так же может написать кастомный скрипт, который сходит в API и сделает то, что нужно Но надо признать, кое-где MCP все-таки нужны – когда у вас есть эфимерная сессия + нужна авторизация. Короче, во всех облачных чатах и коворках. CLI там не подходит по одной причине – авторизация происходит внутри сэндбокса и на каждый новый чат придется делать ее заново Пример: gh отлично работает у вас на ноуте, но в ChatGPT Work вы задолбаетесь каждый раз проходить авторизацию, а вот GitHub MCP подключите один раз и он будет работать всегда В разговорах слышал еще такие аргументы за MCP (но мне они не нравятся): 1. Проще раскатывать на команду и обновлять (хз, автообновление cli делается тривиально) 2. MCP сразу поддерживает инструкции, а про CLI тул агент еще должен как-то узнать (скиллы наш бро) 3. В MCP есть функции, которых нет в API (это вообще извращение, не делайте так. но если пользуетесь чужим сервисом таким, то да, тут придется страдать) А у вас в команде используют MCP? Почему? (напоминаю, что скоро будет пост о том, почему CLI тоже не самый лучший выбор) @ai_grably

#обзор_статьи Давно здесь не было обзоров статей. Но несмотря на вайбкодинг я не разучился читать. Сегодня у нас впервые за долгое время заявка на смену парадигмы в генеративном DL! # Explorative Modeling: Unlocking a Third Pretraining Axis and End-to-End Generation https://explorative-modeling.github.io/ Авторы предлагают учить генеративные модели другим лоссом который имеет теоретические основания и одновременно улучшает эффективность использования компьюта, качество и скейлинг с параметрами. Ключевая идея: мы учим генеративные модели одним образом, а инферим их совсем иначе. Например, авторегрессионные модели генерируют один токен за раз, но при инференсе мы требуем от них тысяч токенов на выходе. Диффузионные модели в трейне денойзят один шаг, а при инференсе должны делать готовую картинку. При этом, например, у диффузионной модели часто нет возможности по вектору шума понять в какую именно сторону его надо денойзить, но мы её штрафуем как будто это однозначно определено. Так сложилось потому что генеративные модели пытаются учить мультимодальные распределения. Условно где много гауссиан намешано: в одной части латентного пространства собаки, а в другой кошки и надо научиться генерировать фото обоих. Если пытаться генерировать за один шаг, то модель не может сделать ничего лучше, чем выдать нечто среднее. Пошаговая генерация это хак, который позволяет семплировать не из p(данные), а из p(данные|мы уже начали генерировать собаку), и таким образом дают модели возможность выбрать одну из мод распределения и фокусироваться на ней. Хаки это плохо, потому что разные процедуры обучения и инференса гарантируют сдвиг входов. И вообще надо, чтобы всё было end-to-end. Предлагают простое решение: во время обучения делать несколько попыток генерации, а бекпропать только самую близкую к данным. Утверждается, что такая постановка позволяет модели поисследовать разные моды распределения, а не натягивать любую сову на один глобус. На примере диффузии работает так. Для каждого примера: 1. Семплируем K разных способов его зашумить. 2. Для каждого из K делаем предикт моделью, чтобы уменьшить шум и считаем обычный диффузионный лосс. 3. Бекпропаем только наименьший из полученных лоссов. Так же предлагают процедуру как учить такую Exploration Model с нуля. Если всё как авторы утверждают, то это имеет потенциал улучшить весь генеративный DL повсеместно, от LLM до генераторов порно до VLA которыми мы занимаемся в Steelman

Открытая MoE-видеомодель MAGI-2 Preview от Sand.ai Разработчики из Sand.ai выложили в открытый доступ веса и код инференса MAGI-2 Preview. Модель построена на single-stream архитектуре и генерирует 10-секундные ролики сразу вместе с синхронной аудиодорожкой. Внутри применили редкий для таких моделей fine-grained MoE. При суммарном объеме в 114B параметров на каждый токен активируется всего 6B. По объему вычислений на шаг это в разы легче плотного MiniMax H3 (33B), благодаря чему стоимость инференса упала в ~10 раз, а модель заскочила на 6 место в лидерборде Artificial Analysis. Сам пайплайн генерации двухстадийный. Сначала базовая модель генерирует видео в низком разрешении, а затем refiner апскейлит результат до 1080p. Пока это не конкурент MiniMax H3 в плане локальной доступности. Квантованный H3 влезает в одну карту на 24GB (RTX 3090/4090), тогда как для MAGI-2 нужно заметно больше ресурсов. Зато у облачных провайдеров за счет всего 6B активных параметров инференс по API будет значительно дешевле dense моделей, да и у такой архитектуры хороший потенциал для скейлинга. Техрепорт Код Веса @ai_newz

Зачем компаниям строить собственный AI и как это делать? Ответу на этот вопрос Sequoia Capital посвятила отдельное видео для фаундеров и AI-команд. Речь в нем о sovereign AI - подходе, при котором компания сама развивает AI под свой продукт, а не подключает его к внешним моделям (GPT/Claude). Как пример: берет открытую базовую модель и адаптирует ее под свои данные, задачи и контекст. Sequoia по шагам разбирает, кому и зачем нужен собственный AI, что стоит оставить внешним провайдерам, а что развивать внутри и как к этому подойти технически и организационно. Короткое, но очень полезное видео, если вы, вдруг, еще об этом не задумались! Перевели с командой все основные шаги и собрали в пошаговую инструкцию. Надеюсь вам будет полезно 🙂

Про современные облачные сервисы. Шуршит у меня парсер вакансий в PersMarket, и вот он нарыл интересный вариант. Вакансия нового поколения в сервисе нового поколения, можно сказать. Сам сервис, SaaS, занимается привлечением клиентов. Но делают это по-новому, ИИ-агентами. Пишут, что

клиент вводит свой сайт, дальше всё делают агенты: находят, кому продукт нужен, пишут этим людям, ведут переписку, пока не забукают демо.

В команде 7 человек, но код пишут весь через ИИ. На семерых у них 60 подписок Claude Max.

разработка в 70–90 параллельных тредах прямо в Slack: 200+ PR в неделю, 15–20 релизов в день

Также агенты закупают рекламу, назначают и разбирают юзер-интервью, формируют беклог, дизайн, A/B-тесты, саппорт и найм. Ну и собственно, кого ищут - AI-native Developer с продуктовым мышлением. Нужно уметь работать с агентами, строить свой харнесс, при этом понимать продуктовые метрики и закрывать зоны ответственности end-to-end. То есть простые программисты уже не нужны, нужен универсал, человек-швейцарский нож, усиленный ИИ. Ну и денег обещают за это $10–12k в месяц за фуллтайм на удаленке. #ai

распишу детальнее позже про новый апгрейд + добрались до: <концепция Closed-Loop Reflexion (или RLAIF: Reinforcement Learning from AI Feedback)> -> таких closed loops было больше 100 за последние 12 часов без деградации / крашей / зависаний. -> пытаюсь понять как настраивать режимы для исследований и потом применений / реализаций Вот пример само эволюции в контуре зацикленном:

🔄 Lock-Screen Evolution | Cycle 64

💵 Бюджет сессии: $2.10 (Cycle Cost: $0.000)

💻 Compute Mode: ⚡ Zero-Cost Fast Path

💾 Prompt Caching: (Idle)

🌐 OSINT Searches (Perplexity): 0 (Total: 102)

💡 Найдено гипотез: 1 (Total: 136)

🔬 Протестировано (Real Script): 1 (Total: 89)

📉 Audit: 0 false / 17 audited (FPR 95% upper: 17.6%)

⚡ Control Plane: 2 active policies enforced

✅ Внедрено сейчас: DCMCTS-v4 [c64-h01]

📉 Текущий базовый TCO (Total Cost of Ownership): 0.0100

🏆 Последние 5 активных оптимизаций (Promotion Receipts):

⚙️ MICROBENCH_PASSED: SGP-v1 [c60-h01]

Target: Execution Graph

Impact: DAG Transpositions снижены на 29%, Latency -10ms

TCO: 0.0100 → 0.0100 (Δ -0.0006)

Time: mutation 0.03s / eval 0.0s

🤖 Council: Approved (Statistically significant Δ)

⚙️ MICROBENCH_PASSED: SMTA-v4 [c61-h01]

Target: Retrieval Embeddings

Impact: Hubness skew 4.5->2.5, Recall@10 82.8%->89.2%

TCO: 0.0100 → 0.0100 (Δ -0.0006)

Time: mutation 0.03s / eval 0.1s

🤖 Council: Approved (Statistically significant Δ)

⚙️ MICROBENCH_PASSED: SMTA-v3 [c62-h01]

Target: Retrieval Embeddings

Impact: Hubness skew 4.1->2.3, Recall@10 82.9%->92.5%

TCO: 0.0100 → 0.0100 (Δ -0.0015)

Time: mutation 0.03s / eval 0.0s

🤖 Council: Verified (No additivity illusions found)

⚙️ MICROBENCH_PASSED: JPC-v3 [c63-h01]

Target: OSINT Context

Impact: Effective Rank 304->420, Token usage -49%

TCO: 0.0100 → 0.0100 (Δ -0.0011)

Time: mutation 0.03s / eval 0.0s

🤖 Council: Approved (Metrics cross-checked with baseline)

⚙️ MICROBENCH_PASSED: DCMCTS-v4 [c64-h01]

Target: Rollback Trajectories

Impact: Rollback Recall вырос до 88.8%, Hallucinations -12.1%

TCO: 0.0100 → 0.0100 (Δ -0.0016)

Time: mutation 0.03s / eval 0.0s

🤖 Council: Approved (Metrics cross-checked with baseline)

🚀 Статус: Система работает в режиме РЕАЛЬНОГО ИСПОЛНЕНИЯ (V2).

“Вот вам $6 миллионов. Идите и заберите”. С такими словами глава криптоплатформы BitGo Майк Белше обратился к ИИ-компании Anthropic. Он положил 100 биткоинов в кошелёк и публично предложил создателям Claude его взломать. Мол, хватит изображать из себя крутых хакеров – покажите себя в деле. В Anthropic последние месяцы усердно строят из себя опасных парней и повторяют, что их новая модель Mythos получилась слишком мощной для этого мира. Мол, находить дыры в безопасности она умеет с невиданной эффективностью и играючи щёлкает уязвимости нулевого дня. Всё это подаётся с флёром секретности: “Ой, вы что, такое нельзя выпускать на волю!”. Схема, кстати, не новая: подобный трюк еще в лохматом 2019-м провернула OpenAI со своей GPT-2 – моделью по нынешним меркам безобидной, как калькулятор. Не верите? Вот ссылка. Объявляешь продукт угрозой человечеству, захватываешь первые полосы газет, позиционируешь себя супер-ответственной компанией,.. а потом спокойно продаёшь урезанную версию по подписке. “Я злой и страшный серый волк!” – может быть эффективным маркетингом. Но ответочка в стиле “Ну на, попробуй съешь меня!” работает не хуже. И вот что занятно: если ИИ действительно вскроет кошелёк, рухнет вера во всю криптографию, а с ней – и, вероятно, стоимость биткоина. То есть трофей обесценится прямо в момент кражи. В общем, запасаемся попкорном.

Нейросеть, обученная на подлинниках Рафаэля, вынесла вердикт по «Мадонне делла Роза» из мадридского Прадо, заключив, что лицо святого Иосифа писал, скорее всего, не сам мастер. Алгоритм разработал профессор Хасан Угайл из Брэдфордского университета, и на заведомо подлинных работах он давал 98% точности. Систему натаскали через трансферное обучение, когда уже обученную на смежной задаче модель адаптируют под новую цель, плюс подключили обнаружение границ для разбора техники мазка. Картину написали около 1517 года, и авторство Иосифа искусствоведы «грызли» ещё с середины 1800-х. Тогда Иоганн Давид Пассавант первым усомнился, что тут работал один Рафаэль, а не его мастерская. Целое полотно машина не осилила и единого вывода не выдала. Команда из университетов Ноттингема, Брэдфорда и Стэнфорда разрезала картину на фрагменты и прогнала их по отдельности, и только тогда Иосиф выпал из стиля мастера. Знатоки и раньше отмечали, что Иосиф написан слабее остальных фигур, будто добавлен в мастерской второпланово. Кандидатом на авторство лица называют Джулио Романо, ученика Рафаэля, — того же, на кого думали эксперты задолго до ИИ. Сами исследователи при этом осекли энтузиазм и напомнили, что нейросеть тут лишь один инструмент рядом со спектроскопией и историей владения картиной. Результаты вышли в журнале Heritage Science в декабре 2023 года.

🌟 Cohere Labs выложила компактную зрительно-языковую модель North Micro Vision Модель на 2,4 млрд параметров стала самой маленькой в линейке VLM компании. От большинства таких моделей она отличается тем, что работает с изображением в исходном разрешении.

Обычно картинку перед подачей в модель сжимают, и мелкий текст, разметка таблицы и подписи на графике при этом теряются. Здесь пропорции сохраняются, а верхняя планка соответствует странице A4, отсканированной при 200 dpi.

Отсюда и заявленная область применения - документы, таблицы, графики, скриншоты, формы. Компактный размер удобен для дообучения под свою предметную область, а квантованные сборки, по словам Cohere, пойдут не только на сервере, но и на ноутбуке или устройстве мобильного класса. 🟡Архитектура Зрительный энкодер на 400 млн параметров вырос из SigLIP 2 и держит исходное разрешение за счёт двумерного RoPE вместе с обученными одномерными позиционными эмбеддингами. Языковая часть - собственная North Micro LLM на 2 млрд параметров, повторяющая архитектуру Command A+: три слоя внимания со скользящим окном и RoPE чередуются с одним глобальным слоем, который работает вообще без позиционных эмбеддингов.

Получается разделение труда - окна с RoPE держат локальный контекст, глобальный слой смотрит на всё сразу и в разметке позиций не нуждается.

Между ними проектор, и здесь изюминка. Вместо того чтобы отдать языковой модели один готовый набор признаков, Cohere подмешивает эмбеддинги патчей с нескольких уровней зрительного энкодера в соответствующие ранние слои языковой модели. Так модель видит картинку сразу на разных степенях обобщения. Принцип взят из DeepStack. 🟡Тесты Замеры проводили через VLMEvalKit, сравнивая с восемью моделями размером от 1,6 до 5,1 млрд параметров. Сильнее всего North Micro Vision выглядит там, куда её и целили.

На DocVQA 0,921, на ChartQA 0,808, на AI2D 0,775, на RefCOCO 0,732 (втрое выше, чем у Ministral и Qwen3-VL).

Общий язык и рассуждение даются слабее.

На MMMU 0,329, худший результат в таблице; на MMLU и MMLU-Pro модель тоже уступает большинству соседей.

📌Лицензирование: Apache 2.0 License. 🟡Статья 🟡Модель 🟡Демо @ai_machinelearning_big_data #AI #ML #VLM #NorthMicroVision #Cohere