Китайские бесплатные токены Летом я брал отпуск от интернета — трогал траву, дышал воздухом, красил фигурки и играл в настолки с живыми людьми. А потом зашел обратно в ленты, и это конечно было испытание для психики. От вашего эйая нигде не продохнуть. Модели сбегают, срут в интернете и воруют у математиков формулы, корпорации тоннами скарлимают книги моделям, экс-сотрудники вопят, что эйай убьет 10% от человечества, уже вот-вот, экзекьютивы за кулисами уже в курсе, и не знают что делать. Черте что творится.  Но когда кажется, что эйай заполнил вообще все — хехе милое летнее дитя — он еще даже не начинал. Почитал тут, чего творится в Китае. “Потребление токенов” там уже повседневное явление и вполне себе экономический термин. — Некоторые банки подсуетились и запустили эйай кредитки. Там вместо кэшбека и миль тебе начисляют токены.  Сельскохозяйственный Банк Китая выпускает карту с токенами для Kimi. CMB (China Merchants Bank) делает карту вместе с ИИ-стартапом MiniMax, а Шанхайский SPDB — кредитку с токенами для Qwen. Больше того, в крупнейших банках, типа Bank of China уже есть практика оценивать компании по количеству произведенных и потраченных токенов и в зависимости от этого выдавать им кредиты. — Мобильные операторы вместе с обычными интернетом продают и планы с токенами. China Telecom, China Mobile и China Unicom в среднем берут доллар за 3 миллиона токенов. — Кафешки и рестораны завлекают теперь не бесплатным вай-фаем, а бесплатными токенами. В Пекине, например, есть AGI Bar. Покупаешь там выпить и бесплтано пользуешься Дипсиком (на локальной модели, которую гоняют тут же в подсобке). А рядом с баром ресторан с пельмешками с такой же схемой — купил покушать, получил ваучер на токены. В итоге за 2026 год Китай нажег уже 500 триллионов токенов (за весь 2024-й было 100 миллиардов). Зазывают, продвигают и просвещают, чтобы эйаем пользовался и простой люд, а не только у технарей шлепалось по 100 форм в параллели. Токены валяются на дороге, прогрессом пропитан воздух. Спрятаться уже негде

Где токены, Лебовски? ИИ-агенты обещают экономить рабочее время, но сами легко сжигают бюджет: повторно читают документы, вызывают лишние инструменты и иногда уходят в цикл. Поэтому цены миллиона токенов уже недостаточно — бизнесу важнее знать, сколько стоит выполненная задача. О том, куда агент расходует токены и как удержать счет под контролем, нам рассказал руководитель Yandex AI Studio Артур Самигуллин. Почему агент обходится дороже обычного чат-бота? ➖ В чат-боте все просто: пользователь отправляет запрос, модель отвечает. У агента на такое общение приходится лишь около 10% потребления. Остальные 90% — его внутренняя работа: выбор и вызов инструментов, поиск в интернете и корпоративных системах, чтение документов, анализ результатов и планирование следующего шага. Заранее предсказать длину этой цепочки трудно. По оценке сервиса Tokens per day, с января 2024 года мировой ИИ-рынок израсходовал 94,2 квадриллиона токенов, а сейчас расходует около 395 трлн в сутки. Один из главных ускорителей — распространение агентов. Насколько они прожорливее на практике? ➖ На нашей платформе модели обрабатывают около 300 млрд токенов в месяц. Пока на агентов приходится около 15% запросов, но они уже потребляют около 30% всех токенов. По мере распространения агентских сценариев объем токенов будет кратно расти. В августе 2026 года в DeepSeek V4 Flash на нашей платформе такими были 70% токенов. Где агент начинает транжирить токены? ➖ Неоптимизированный агент может вызвать ненужную функцию, несколько раз целиком перечитать один документ или зациклиться. Иногда он отправляет сложной и дорогой модели задачу, с которой справилась бы более компактная. Поэтому главная метрика — не цена токена и даже не их количество, а конечная стоимость выполнения задачи. Чтобы ее контролировать, компании нужны детальные логи: вся цепочка действий агента, расход на каждом шаге и причины, по которым он выбрал конкретный инструмент или модель. Как снизить расход? ➖ Один путь — сначала решить реальные задачи большой моделью, а затем обучить на ее ответах более компактную. Другой — оптимизировать сам инференс: отдельно настраивать оборудование для обработки длинного запроса и генерации ответа, квантизировать модели, ускорять выдачу и переиспользовать уже обработанный контекст. Для этого платформы вводят кэшированные токены. Если часть запроса повторяется, модель не вычисляет ее заново. В июле 2026 года в DeepSeek V4 Flash на нашей платформе такими были 75% токенов. Они в среднем в пять раз дешевле обычных и экономили пользователям несколько миллионов рублей в месяц. После обновления веб-поиск также стал расходовать в два-три раза меньше токенов: теперь он забирает не страницы целиком, а только релевантные фрагменты. Универсальные агенты сделают счёт еще больше? ➖ Парадоксально, но для бизнеса он может сократиться. Сейчас разные ИИ-сервисы отдельно загружают файлы, корпоративный контекст и инструкции. Универсальный агент сможет работать с ними в одном окне и решать задачу единой цепочкой, не повторяя одни и те же операции. Так развиваются Anthropic — от Claude Code к Cowork, OpenAI — от Codex к ChatGPT Work, и Yandex AI Studio. При этом рынок не сведется к двум-трем агентам «для всего». Останутся специализированные решения для юристов, врачей, архитекторов и других областей, — словом, всех тех, кому базовых возможностей ИИ будет уже не хватать. @anti_agi

У Артура (руководителя Yandex AI Studio) в принципе очень крутой карьерный трек в AI. С интересом следил в этом году за его участием и победой в Forbes 30 до 30, поэтому вдвойне рад его интервью. Здорово, что Артур (неожиданно для провайдера моделек, которому вообще-то было бы даже выгодно продать вам побольше токенов) прямо говорит о том, что расходы на ИИ сильно зависят от оптимальности его использования. Когда все вокруг меряются количеством сожженных токенов, важно об этом помнить и оптимизировать свои подходы к применению ИИ. Что касается снижения стоимости токена с развитием ИИ, вопрос на мой взгляд чуть более дискуссионный. Принципиально скорее соглашусь, что стоимость в ближайшем будущем продолжит снижаться, но ответ ещё зависит от дефицита вычислительных мощностей, электроэнергии и прочей инфраструктуры с ростом популярности ИИ. Так что я бы советовал учиться эффективному использованию ИИ в своих задачах уже сейчас. Применять что-то и учиться это применять это совершенно разный порядок затрат и вторым лучше заниматься, пока есть определенность с ценами и в целом инструменты широко доступны.

Новый Fable 5.1 cделает тебя бедным. Или это просто треш как теперь быстро стали улетать лимиты. Я первый раз уперся в недельный лимит позавчера. И целые сутки не знал что теперь делать. И после обнуления уже успел потратить 30% меньше чем за следующие сутки. Короче полез ковыряться и смотреть в чем же омжет быть причина. И нашел много интересной инфы. 1) Субагенты это и добро и зло. В режиме оркестрации, они помогают более качественно и быстрее делать задачи. Вчера загрузил историю чата на 70к сообщений. Opus макс вызвал мне 18 субагентов чтобы они помогли ему отсмотреть весь объем и разобрать все сообщения. И за 20 минут слили мне весь 5часлв лимит подписки за 200 баксов. 2) Усилие которое мы выбираем рядом с моделью. Я особо раньше не понимал на сколько они отличаются. И лупил максимальное на большинство задач. Хуле, подписка за 200 баксов, хватит же. А с новым фейблом в режиме Extra или Max он в 66 раз больше токенов ест! Хоть я люблю и боготворю Calude с антропиком, ну это пиздец товарищи! Хотя ChatGPT Астра в соседнем окне тоже еще тот пылесос. Короче я поресерчил и собрал такой гайд, как обстоят дела токенами в Calude Можете просто скормить своему агенту и сказать - примени)

Google придумал, как тратить меньше токенов на длинные задачи Обычно агент таскает за собой всю историю: сообщения, действия, ответы инструментов и т.д. Учёные из Google предложили оставлять после каждого шага только короткое описание текущего состояния задачи, инструкцию и последнее наблюдение. Метод называется SKILL.state. В тесте на 100 шагов обычный подход потратил около 1.06 миллиона токенов и показал точность 91%. SKILL.state использовал примерно 65 тысяч токенов и достиг 94% точности. На 200 шагах разрыв стал ещё заметнее: 122 тысячи против более 5 млн токенов. На практических тестах результат тоже оказался лучше. В заданиях на работу в службе поддержки SKILL.state также чаще доводил задачи до конца. https://arxiv.org/abs/2608.26263

Спрос на токены / ИИ за последний год вырос по разным оценкам в 10-15х Цена токена того же уровня ценности (opus 4 год назад против qwen сегодня) упала больше чем в 100 раз. Потребление токенов на OpenRouter (крупнейший маркетплейс) выросло больше чем в 25х за год. Как пишет Кэти Вуд и ее команда из ARK, если датацентр сегодня окупается за 1,5 года, то какой смысл инвестировать во что-то другое? Емкость рынка триллионы долларов, это влияет на аллокации многих фондов, компаний и государств. Эффект в том, что эта конкуренция увеличивает стоимость денег для остальных областей экономики. Нашел забавный график об упоминаниях ИИ на заседаниях Феда. ИИ становится драйвером макро решений, несмотря на то что это пока что просто детский лепет, а в следующем году будет интересно.

Пятница, самое время посмотреть куда мы тратили больше всего токенов на этой неделе 😏 Для Claude Code есть супер скилл, который разбирает логи сессий и на основе API запросов считает расход токенов Собирает всё это в красивый понятный HTML отчётик С разбивкой по времени, проектам, моделям, файлам, MCP-серверам, скиллам, субагентам и тд Несколько примеров как юзать: /tare report [дней] — отчёт с графиками /tare usage — аналог клодовского /usage /tare share [дней] — обезличенная .md сводка чтобы шерить Есть еще интересная статистика amplified tokens, когда изначально маленький файл переиспользовался внутри контекста столько раз что в итоге стал дорогим Установка (GitHub):

npx skills add kelviq/tare

Если нужно под Codex, попросите его портировать) @tips_ai #tools

📈 OpenRouter вырос примерно в 9000 раз за 2,5 года В январе 2024 года через OpenRouter проходило около 10 млрд токенов в неделю. К августу 2026-го - уже больше 90 трлн токенов в неделю. Рост - примерно в 9000 раз. По данным OpenRouter, примерно с февраля агенты уже генерируют больше токенов, чем обычные пользователи. Один агентный запрос в среднем потребляет примерно в 15 раз больше токенов. Агент рассуждает, вызывает инструменты, читает результаты, пишет код, запускает подзадачи и повторяет цикл снова. https://menlovc.com/perspective/stripe-to-acquire-openrouter-why-everyone-is-obsessed-with-model-routing/ @ai_machinelearning_big_data #OpenRouter

Не меняйте уровень "размышления" модели посреди диалога! 🤷‍♂️ Оказывается, много кто так делает. Типа в начале диалога используют xHigh, чтобы получить лучший результат, а потом меняют на medium, чтобы сэконоить токены. 😬 Но это работает ровно наоборот! Вы тратите х2 токенов OpenAI кэширует контекст диалога, чтобы старые сообщения не нужно было каждый раз заново обрабатывать. Это в целом повсеместная практика, но работает это только в том случае если старые сообщения не менялись. А, как оказалось, уровень "размышления" прописывается в системном промпте (считай нулевое сообщение), а значит его изменение просто сбросит кэш и все сообщения придется обрабатывать заново. 🤷‍♂️ В общем, если начали уже вести диалог, то не меняйте настройки модели. Лучше начать новый диалог с нужными настройками, если это так необходимо 👌 Свята место | 10МДК | YHub

Сколько на самом деле стоит сессия в Claude Code – разбор от Anthropic Интересный пост от Anthropic с полезными советами, как экономить токены в Claude Code. Как устроена цена токена Запрос проходит через GPU в две фазы. Prefill – модель читает весь контекст (системный промпт, CLAUDE.md, ваше сообщение, все файлы и выводы команд). Decode – модель пишет ответ, по одному токену за раз: ответ на 200 токенов – это 200 прогонов модели подряд. Поэтому output стоит примерно 5x от input. Дальше кэш. Если запрос начинается с тех же токенов, что и предыдущий, сервер не пересчитывает состояние, а достаёт из кэша – это 0.1x от цены input. Запись в кэш дороже (до 2x), но пишется один раз, а читается на каждом ходу. Claude Code управляет кэшем сам, но его легко сломать: – /model посреди разговора – у каждой модели свой кэш, весь разговор перечитывается по полной цене (opusplan, кстати, переключает модель при каждом входе-выходе из plan mode) – /effort – уровень усилий тоже часть ключа кэша, та же история – Fast mode – включайте в начале сессии, ре-префилл идёт по ценам fast mode; выключение обратно бесплатно – время – кэш живёт час на подписке и 5 минут на API-ключе (ENABLE_PROMPT_CACHING_1H=1 растягивает до часа); вернулись после обеда – платите за перечитывание всего разговора Почему длинные сессии дорогие Ничего не отправляется один раз. Каждый прочитанный файл и вывод каждой команды переотправляются на каждом последующем ходу до конца сессии. Ход №40 тащит с собой все 39 предыдущих. Кэш делает это дешёвым, но дешёвое – не бесплатное, плюс модель вынуждена думать поверх мусора. Отсюда практика: – начинайте новую задачу со свежим контекстом, с /clear – старайтесь всякие команды использовать с минимальным выводом (не просто чтение каждой строчки файла выдавать) – будьте конкретными. «Тесты падают» вместо «почини тест в @utils.test.ts» – это grep, несколько открытых файлов, и всё это висит в контексте до конца сессии. @упоминание вообще убирает Read-вызов: файл прикрепляется к сообщению до отправки – вывод больше 30 000 символов Claude Code сам уносит в файл и оставляет превью. Проблема – всё, что меньше: тест-раннер с 400 строками passing tests влезает под лимит и остаётся навсегда. – /context в свежей сессии показывает, что загружено до того, как вы напечатали хоть слово – CLAUDE.md, определения MCP-инструментов. Можно проверить заранее. Ненужный MCP-сервер отключается через /mcp – /rewind вместо /compact, если надо отрезать последние неудачные ходы – бесплатно, кэш до них цел. /compact переписывает весь разговор и всегда что-то стоит, причём до перерыва сильно дешевле, чем после (пока старый разговор ещё в кэше), поэтому прежде чем пойдете попить чайку - сделайте /compact. Сабагенты - отдельный контекст со своим системным промптом, но без вашего разговора. Обратно возвращается только ответ, всё остальное выбрасывается. Для мелких задач – лишние траты (сабагент перечитывает то, что основная сессия уже знала). Окупается на задачах с большим выхлопом – разбор логов, например. Можно дать шумной задаче своё определение сабагента с model: haiku, иначе она крутится на модели основной сессии. https://claude.com/blog/maximizing-the-value-of-your-claude-code-sessions

Codex иногда даёт бесплатный сброс лимитов, я не до конца понял за что, но штука полезная. Он хранится ограниченное время, а потом сгорает. У меня таких сбросов было несколько, и несколько я уже благополучно сгорели. Так как лимиты заканчивается довольно быстро, к очередному сбросу я решил подойти более ответственно. Идеальный сценарий: потратить текущий лимит почти до нуля ровно перед тем, как сгорит бесплатный сброс, а затем сразу его применить. Поэтому сейчас я специально сфокусировался на самых токеноёмких задачах. А вчера даже поставил будильник, чтобы не пропустить момент. 🙂 И тут вспомнил, как много лет назад работал в контактном центре. Тогда в Facebook были очень популярны игры-фермы. Сам я не играл и смотрел на коллег с лёгким недоумением, вот же заняться нечем, у нас этой фермой была увлечена чуть ли не вся смена. Люди сажали виртуальный урожай, а потом ставили будильники, чтобы собрать его сразу после созревания, иначе его могли украсть или он мог забыть. Прошло много лет, и вот я сам ставлю будильник, считаю оставшийся ресурс и стараюсь вовремя собрать "урожай" со своего токенового поля. В общем, я всё-таки начал играть в Ферму. Просто теперь вместо помидоров у меня токены. 🤣