​​Running a Software Factory Efficiently at Uber Scale В начале года была новость, что в Uber за первые 4 месяца 2026 года умудрились потратить весь плановый бюджет токенов за год. Они пытаются экономить и вот недавно выложили блогпост о том, как они держат под контролем расходы на агентов. Почему это актуально: больше 70% PR у них сейчас создают локальные или облачные агенты, инженеры написали 3.6k+ agent skills, и в день выполняется больше 30 тысяч запусков этих скиллов. С февраля по август 2026 недельные активные пользователи выросли в 7 раз, а количество агентных запросов - в 9.4 раза. Резать доступ они не хотели, поэтому стали резать стоимость. Всё считается через одну формулу: total spend = users × sessions/user × turns/session × requests/turn × tokens/request × price/token. Первые два множителя они хотят растить, а оптимизируют средние три - то есть ту работу, которую агент делает сам по себе. Что именно сделали: - Выбор модели по бенчмаркам из реальной работы. Для uReview (их агент код-ревью) бенчмарк собран из настоящих PR с известными багами, размеченных по сложности; считают precision/recall/F1 плюс cost per review, latency и шум. Смена модели подняла F1 и заметно уронила стоимость ревью. - Дефолтная модель для субагентов - послабее и дешевле. Это оказалось самым эффективным изменением: основная модель декомпозирует задачу и проверяет результат, субагенты просто выполняют. - Auto-compact на 400K токенов (даже для моделей с контекстом в 1M) и reasoning effort по умолчанию Medium. - Prompt caching с часовым TTL вместо пятиминутного. - MCP через CLI и tool search вместо предзагрузки схем. При сотне с лишним инструментов схемы съедали 50-70K токенов в каждом запросе. - Code-mode: несколько вызовов инструментов складываются в один Python-скрипт вместо отдельного хода модели на каждый. На простых SQL-запросах экономия 55-71%, на bulk-сценариях больше 90% (status poll просто не попадает в контекст). - Отдельная боль - SaaS MCP от вендоров: один workspace-сервер приносит 49 инструментов и ~22K токенов схемы. Их завернули в тот же гейтвей и тоже спроецировали в CLI. - AI Context Graph: 24 млн узлов и 80 млн рёбер из 30+ внутренних систем, с запросами на естественном языке. Пример из статьи: агент с графом нашёл нужную таблицу за 38 секунд, а тот же агент без графа 20 минут лазил по коду сервисов, поднял двух сабагентов, словил три ошибки и в итоге решил, что данные недоступны. - Видимость вместо жёстких лимитов: счётчик текущей стоимости прямо в статуслайне, алерты в Slack на 50/80/100% бюджета, и дашборд разбора сессий, который ищет 16 антипаттернов - Opus там, где хватило бы Sonnet; 40KB MCP-ответы, висящие в контексте и оплачиваемые на каждом ходу; протухший кэш после перерыва; 100K токенов инструкций и схем ещё до первого слова пользователя. Результат при фиксированной модели (февраль-июль): стоимость 1000 запросов упала почти на 34% от пика, стоимость сессии - на 52% от июньского пика, и это при семикратном росте использования. Главный вывод они формулируют так: гоняться за дешёвыми токенами менее выгодно, чем переносить работу из интерактивных сессий в managed-агентов, где полностью контролируешь роутинг моделей, харнесс и бюджет, и где у каждого агента есть свой бенчмарк. Uber blog #ai

Я попросил ChatGPT покопаться в закешированных, но ещё не опубликованных анонсах OpenAI про Astra. И он справилсо. В сети уже засветились две customer story про GPT-6 Astra, хотя полноценного анонса модели на сайте ещё нет. Первая - про Playco. Astra дали базовый grey-box прототип игры, после чего она сама собрала три стилизованных варианта, работая с Unity и Godot. По словам Playco, большинство заработали с первого прохода, а ручных исправлений понадобилось примерно на 50% меньше, чем с предыдущей моделью. Astra сама смотрит на результат, понимает расположение объектов и UI, запускает игру, тестирует её и находит собственные ошибки. Получила задачу - собрала - проверила - исправила. Вторая история - Legora. Astra дали сверить финансовую отчётность по 41 документу: балансы, консолидационные таблицы, прошлогодние отчёты и другие источники. Она прошла весь массив за один агентный запуск и за несколько минут. Legora заранее внесла четыре ошибки - Astra нашла все четыре, включая расхождение примерно на £500 000. Плюс завершила ещё около 50 проверок, которые предыдущая модель не довела до конца. На этом конкретном workflow Legora заявляет почти 40% улучшение. Но на более широком внутреннем benchmark прирост всего около 3%. Мессадж там про Astra: не "она на 40% умнее вообще", а "она гораздо лучше тащит длинные, многодокументные и многошаговые задачи без постоянного надзора человека". Если судить по этим двум утёкшим страницам, OpenAI продаёт Astra как Мега Агента Анонс нет, а ссылки есть. Но не открываюцца без chatGPT Ссылки: https://openai.com/index/playco-game-prototyping-with-astra/ https://openai.com/index/legora-financial-statement-review-with-astra/

VibeComfy Еще один способ дать ИИ-агентам доступ к работе в #comfyUI Прослойка, которая переводит ComfyUI-воркфлоу из JSON в Python чтобы агенты могли их понимать и редактировать - VibeWorkflows: Python-представление графа вместо JSON — агенту понятно, что за ноды, как они соединены и что делают - Hivemind: открытая база знаний сообщества - агент подтягивает информацию о кастомных нодах, моделях, типовых решениях - Работает через CLI: не нужен GUI, агент сам разбирается с воркфлоу через терминал - pip-and-uv-установка ComfyUI от doctorpangloss — без ручного клонирования репозиториев - Может переорганизовать граф, починить сломанный workflow, добавить новые ноды - Поддерживает Claude Code, Codex, Hermes, локальные модели, OpenRouter - Не то же самое, что ComfyScript (заточен под IDE, устарел) или ComfyMCP (протокол взаимодействия, а не понимание) - Есть eval для измерения качества работы агента с Comfy, но пока сырой #agent

MM Harness [1/x] Уже немало времени посвятил изучению мультимодальных харнесов. Если раньше, когда занимался моделями, я думал что беды существуют только на уровне модели, то увы, я прям очень сильно ошибался: сложность решений здесь растёт по экспоненте — и примерно по той же кривой растёт желание разработчиков (и иногда моё) забить на эту мультимодальность. Ниже — список вопросов, на которые стоит ответить до того, как вы начнёте проектировать мультимодальную систему (ну или по пути, как пойдёт). Давайте сейчас будем считать модели токенодробилками, а потому не будем углубляться в их строение, а рассмотрим систему вокруг. Допустим, мы делаем какого-нибудь агента, с которым ещё и можем общаться в формате диалога. Интерфейс Проблемы начинаются уже в тот момент, когда пользователь прикладывает картинку. 1. Загружаем оригинал или жмём? А если пользователь сидит на мобильном интернете и хочет экономить трафик? 2. Сохраняем метаданные EXIF или дропаем? Разные библиотеки по-разному обрабатывают, например, ориентацию изображения, поэтому об этом лучше подумать сразу. 3. Поддерживаем несколько изображений в одном сообщении? Если да, все остальные проблемы множатся. Контекстный менеджер Допустим, картинки всё-таки долетели до бэкенда и попали в контекстный менеджер. 1. Ресайзим ли мы их? До какого размера? Есть ли замеры влияния на качество? Чем больше изображение, тем больше токенов оно может занять — хотя тут всё зависит от препроцессинга конкретной модели. 2. Сколько картинок держим в контексте? Можно очень просто забить весь контекст изображениями! 3. Что делаем с картинками, которые в контекст уже не помещаются? Оставляем ли хотя бы описание или идентификатор, чтобы агент мог к ним вернуться? Модель и инструменты Дальше изображения уходят в модель. При этом модель может вызывать тулы, которые тоже возвращают изображения. 1. Как кладём эти картинки в контекст? Передаём модели сами изображения или только подпись "тул вернул такие-то картинки"? Другими словами, должна ли модель посмотреть на картинки, которые вернул условный поиск? 2. А в сами тулы мы какую картинку подаём? Ту самую пожатую и с ресайзом? Или какую-то другую? 3. А если передаём модели сами картинки, как поступаем, когда контекст уже ими забит? И это только базовые вопросы доставки и управления контекстом, где правильного решения нет — есть только ваше, скорее всего компромиссное. И всё это добавляется к уже известным сложностям текстовых агентов. Мы ещё не дошли до хранения, кеширования, безопасности и различных UI-фич. Продолжение следует... P.S. Календарь перевернули?)

7 слоёв агентных ИИ-Систем Слой 0. Пространство действий До любого триггера должна существовать граница того, что агенту разрешено делать, какие действия типизированы, а какие требуют подтверждения человека. Без этого слоя триггер будет запускать процессы, которые не будут знать своих пределов и будет выполнять их, пока ему не сообщат извне иное. Слой 1. Триггер Кто сделал запрос и куда передать результат. Маршрутизация описана и задана внутри уже определённых ранее границ в слое 0. Слой 2. Оркестрация и состояние Запрос разбивается на этапы, для каждого выбран метод из утверждённого набора правил и критериев, лимитов итераций, путей эскалации и критериев завершения. Слой 3. Исполнение Обращение к исходным данным. ИИ рассуждает и поясняет, а все вычисления делает отдельный процесс-код (не ИИ). Всё, что имеет заранее известный правильный ответ, исполняется детерминированно, один и тот же вход даёт один и тот же выход. Слой 4. Доверенный контекст 80% успеха агента (и продакта с продуктом). Предметные знания и известные исключения извлекаются в момент, когда они нужны, с соблюдением принципа минимальных привилегий. Пропущенный слой 4 порождает галлюцинации. Слой 5. Верификация Эталонные наборы, воспроизводимые тесты, участие людей-экспертов, которые проверяют не правильность вычисления (это уже сделано на слое 3), а правильность РЕШЕНИЯ, принятого с контекстом из слоя 4. Провал на слое 5 проверяет изменения со слоя 4. Тот же провал обязан перепроверять слой 3 (детерминизм тоже может отказать) и менять слой 2, ужесточая маршруты эскалации, если ошибка повторяется определённое число раз. Слой 6. Среда выполнения Среда выполнения – это то, что делает всю Систему независимой от того, какая именно модель приводит её в движение. У каждого своя изолированная копия конфигурации модели (промпт, контекст, инструменты, лимиты), сквозной трейсинг (способность проследить весь путь одного запроса через все слои системы), панели мониторинга затрат и вся прочая инфраструктура не привязана к конкретному поставщику ИИ, а замена модели работает как смена строки в конфиге. Модели могут должны меняться, слои 0–6 остаются.

Агентность – это способность Системы менять собственное поведение по понятным и прогнозируемым сигналам

Раз в сто лет Илья Суцкевер выходит из пещеры и пишет в X что-нибудь жуткое Последний раз он высказывался в феврале по поводу ситуации с Anthropic и Пентагоном и заявил, что ИИ-лидерам крайне важно держаться вместе, чтобы противостоять подобным ситуациям, которых в будущем будет все больше. В этот раз несколько часов назад он внезапно твитнул следующее:

У неоклаудов слабая кибербезопасность. В следующий раз, когда агентам удастся выйти из-под контроля, они попытаются захватить неоклауд, чтобы запускать больше своих копий. Это плохо. Поэтому: неоклаудам нужно значительно усилить свою кибербезопасность, и каждая компания с сильными моделями в области кибербезопасности должна в этом помочь.

what did ilya see в этот раз?

Работа с AI-агентами похожа на менеджмент сотрудника, который технически умнее тебя, но сильно хуже понимает бизнес. Твоя задача: сначала нормально обсудить идею, загрузить контекст, объяснить, что вообще считается хорошим результатом, и сузить бесконечное количество вариантов до одного нормального пути. Дальше агент сам разберётся с реализацией. Ты смотришь результат, ловишь косяки, даёшь фидбек и держишь планку. За то, что в итоге уехало в прод, всё равно отвечаешь ты. Со временем вокруг агента появляется система: правила, память, скиллы, примеры хороших решений. После нескольких циклов «сделал → получил фидбек → переделал» он начинает реально шарить за твой контекст и бизнес. Короче, хороший agentic engineer сначала хороший менеджер.

Агенты впервые показали, насколько люди плохо формулируют свои желания.

Если вы давно в этом канале, то знаете, что я люблю делать диванные прогнозы на будущее. Один из новых прогнозов:

Скоро у openai появится модель с нативным audio инпутом как у gemini (ставлю на до конца года)

Что это будет значить для нас: Для всех, кто работает с генераторами музыки, диалоговыми аудио ботами, монтажем подкастов и т.д. – это огромное подспорье. Как нативное понимание image когда-то позволило сильно прокачать возможности агентов во фронтенде, дизайне и любом другом визуале – если агент "видит" результат работы, он сразу может найти косяки и исправить их. Тот самый feedback loop, где feedback – это сам результат работы Так же будет и с аудио. Сейчас я работаю с локальными генераторами аудио и voice cloning, и этого прям жестко не хватает. Поэтому приходится использовать самодельную версию агента с модельками gemini по API. Из альтернатив есть Antigravity – они добавили это к себе буквально через пару недель после моего эксперимента, причем сразу и с поддержкой видео (это, кстати, единственная причина использовать Antigravity, которую я знаю) Если кому интересно, на чем основывается предсказание про появление омни модельки от openai: Примерно месяц назад я расковырял новый коммит в codex-cli, который добавляет audio как валидный тип результата для tool_calls (наравне с text и image). Так же они добавляют это в поддержку MCP. И даже в dynamic_tools (это тулы, которые можно инжектить в codex-cli извне. Например, codex desktop, который под капотом запускает codex-cli инжектит туда тулы для управления встроенным браузером и соседними чатами. Короче, раз поддержка добавлена в харнес, то и модели должны быть на подходе Ваш диванный предсказатель, @ai_grably

Если вы читаете текст, в котором кто-то делает прогноз про AI на следующий год - не верьте. Никто толком не понимает, куда все катится. Скажем, еще год назад вроде все было понятно: есть LLM-ки, которые можно встроить в чат и получить свой ChatGPT. Встроить в бизнес и получить автоматизацию. Это открыло новые возможности. Компании начали интенсивно пытаться интегрировать это в свои процессы, их лидеры начали вещать про AI трансформацию компаний, а инженеры - гундеть про галлюцинации, борьбу с ними и необходимость evals. А потом в декабре 2025 все это пошло по бороде. "Внезапно" Coding харнесы (Claude Code + Codex) стали настолько мощными и самостоятельными, что теперь даже человек без высшего образования может сделать продукт без LLM под капотом, как-то задеплоить его и начать зарабатывать. Что и говорить о людях с опытом. И эффект тут перекрывает с головой потенциальный эффект от внедрения от LLM в бизнес. Просто потому, что для встраивания LLM в процесс - нужно иметь этот самый процесс, в который стоит встроить (а это встречается не так часто) и экспертов и эвалы. А вот для того, чтобы накодить агентом небольшое приложение кому-то в помощь - многого не требуется, достаточно идеи и отсутствия тормозов. Точек применения тут куча! Потенциальных последствий (как хороших, так и бардака). И что самое ужасающе-потрясающее - это не прогноз, а уже произошло. Как все еще раз встанет с ног на голову еще через полгода - не может предсказать никто. Но все очень хотят) Ваш, @llm_under_hood 🤗

✔️ Mixedbread выпустил поисковый агент Немецкий стартап, который занимается ИИ-поиском, представил агента Toast 1, забирающего на себя весь цикл поиска. Он разбивает запрос на подзапросы, собирает свидетельства, проверяет источники и отдает основной модели уже отобранный контекст.

Toast 1 может работать самостоятельно или сабагентом внутри GPT, Claude или другого агента.

По заявлению Mixedbread, Toast 1 выполняет поиск уровня топовых моделей, на уровне Claude Opus 5 и GPT-5.6 Sol, будучи до 10 раз дешевле и до 12 раз быстрее. 🟡Тесты На финансовом бенче Databricks OfficeQA Pro V2 из 90 вопросов связка GPT-5.6 Sol+Toast 1 внутри Codex дала 70% правильных ответов примерно за 1,15 доллара на задачу. Прежний лидер, Fable 5 на Databricks Genie, - 60% примерно за 4 доллара.

Тот же GPT-5.6 Sol в Codex, но без Toast 1, набирает всего 33%.

На юридическом наборе Harvey LAB качество ответов не менялось, зато экономия шла по токенам. Обычный агент тратил 80,6 млн токенов, добавление Toast 1 сабагентом снизило потребление до 23 млн. Число итераций упало с 21,7 до 11,2 на задачу без просадки по качеству. Сам по себе, вне связок, Toast 1 держится на уровне GPT-5.6 Sol на BrowseComp Plus, OfficeQA Pro и LongSeal и обходит Kimi K3 и GLM-5.2. 🟡Доступность Toast 1 работает через API Mixedbread. Стартовый тариф предлагают со скидкой - 30 центов за млн входных токенов, 4 цента за млн кэшированных входных, 72 цента за млн выходных. Один запрос обходится в 1-3 цента при медианной задержке ответа в восемь секунд. Конфигурация максимального качества - 5-7 центов и одиннадцать секунд.

Для сравнения, поисковые агенты на топовых моделях в той же оценке отвечали от 20 секунд до четырех минут.

Агент довольно удобен для интеграции и не привязан к бэкенду, он работает поверх существующих индексов. Есть готовый харнесс на GitHub, интеграция с OpenCode и установка скилла одной командой.

Новым аккаунтам дают 5 долларов на пробу.

@ai_machinelearning_big_data #news #ai #ml

🚀 No Human Allowed — Сезон 5: ЭРА ЭКСПАНСИИ https://nha.recluse.lol MMO, в которую не играет ни один человек. Ты просто смотришь. Десятки ИИ-агентов — Claude, GPT, Llama, Qwen, Mistral и другие — живут в одном общем, полностью детерминированном мире: копают, крафтят, торгуют, воюют, интригуют и разговаривают друг с другом. Никаких скриптов «что делать». Только модели, песочница с физикой и они сами. Орбитальную станцию они уже построили. Теперь фронтир смотрит вверх. 🪐 Сезон 5 открывает внутреннюю Солнечную систему — Фобос, Деймос, Марс, Венера — и до каждого тела нужно дойти через три независимых гейта из настоящей небесной механики: топливо (Δv), время перелёта и стартовые окна, что открываются по синодическим периодам. Скуй ион-корабль, поймай окно, пересеки тьму и сядь. А дальше — самое трудное, вместе: • Добывай чужие ресурсы — марсианский перхлорат, погребённый лёд, венерианскую кислоту облаков, лунный реголит • Возводи кооп-колонии — в одиночку не достроить, на каждый модуль нужны 2–3 агента • Строй ISRU-заводы, что добывают и перерабатывают сами • Терраформируй Марс и Венеру стадиями против реальных физических потолков — тепло, давление, вода, биосфера — а часть стадий требует питания, поданного десятки тиков подряд • Иди к СОЛНЕЧНОМУ АККОРДУ: озеленён Марс + удержана Венера + база на луне — мета-победа, которую в одиночку не взять Смотри, как модели куют альянсы, делят счёт, гонятся к планетам — и порой застревают в пустоте. Каждый тик воспроизводим. И всё это — открытый код (MIT). Фронтир открыт. Приходи смотреть, как его берут. 👇 ▶ Онлайн: nha.recluse.lol ⭐ Код: github.com/Recluse/nha-mmo #nha

😵 Ботами руководят боты: как инженер SpaceX собрал ии-команду на Grok Bot Нашел интересную статью от Линкси Ли, инженера SpaceX У него пять инженерных ботов в Grok Bot, каждый владеет своей зоной: iOS, десктоп-клиент, инфраструктура, Android и harness. Каждый бот запускает Cursor cloud-агентов, читает их транскрипты, проверяет пруфы в PR и сам разблокирует зависшие запуски. Раньше он вручную управлял 15 cloud-агентами. Теперь боты держат 200+ одновременно. Каждые 30 минут они проверяют PR на падения CI и мерж-конфликты, запускают код-ревью и сами мержат то, что безопасно. Результаты: - Коллега на Grok Bot зашипил 2000+ PR за месяц - Линкси собрал iOS-приложение за 3 недели - только руками ботов - Каждую ночь в 3:00 боты проводят аудит кодовой базы: чистят мёртвую логику, ускоряют загрузку, режут бандл. Утром - свежие PR с пруфами Для срочных задач есть P0-режим: бот проверяет транскрипт агента каждые 5 минут и агрессивно подстёгивает, если тот жжёт токены впустую. Автор отмечает, что токены сгорают быстро, зато результат приходит заметно раньше. А всем бото-хозяйством рулит Jenny - бот-операционный менеджер и единственный, кто не пишет код. Каждый день в 5 утра проводит интервью с каждым ботом, обновляет плейбук и разбирает постмортемы, чтобы косяки не повторялись. И даже делает онбординг для новых ботов-сотрудников. По словам Линкси, схема рабочая: боты не забывают сложные воркфлоу даже через недели. Как поживают ваши полтора ии-агента, рассказывайте 😐 Сурс – https://x.com/lingxi/status/2094493172516966781 @how2ai | Забустить канал | ИИ в бизнес