pi. Он отличный, всем рекомендую. Но я заметил, что он всё ещё тратит слишком много токенов, поэтому сделал своё расширение:
https://github.com/btseytlin/pi-duck-mode
Добавляет /duck режим в котором харнесс тратит в 14х раз меньше токенов, TPS в 798x раз больше! При этом качество кода только растет
В Китае ИИ-токены превратились в повседневную валюту наравне с бонусами и кешбэком. Банки, операторы связи, кафе и маркетплейсы массово раздают и продают токены для доступа к языковым моделям, а некоторые банки уже используют объём потребления токенов как показатель кредитоспособности ИИ-стартапов вместо традиционных активов.
Явление охватило всю страну: по данным CodeCamp, Китай потребляет около 500 триллионов токенов в день против 100 млрд в начале 2024 года — рост в 5000 раз. Токены стали частью банковских карт, мобильных тарифов, ресторанных акций и даже залогового обеспечения по кредитам.
Исследователи Google разработали архитектуру SKILL.statei, которая заменяет накопление всей истории диалога агента на компактное структурированное «execution statei». Вместо ReAct-подхода, где промпт растёт линейно с числом шагов, а суммарный расход токенов — квадратично, модель на каждом шаге получает только инструкции навыка, текущее состояние и последнее наблюдение.
В тестах на синтетической задаче складского управления из 100 шагов экономия токенов достигла 93,8% (по данным Data Secrets) при сохранении и даже росте точности решения задач — важно, что подход применим к любой, в том числе закрытой, модели.
ВыводМеханика: на каждом шаге модель выдаёт JSON-блок с двумя полями — конкретная команда для исполнения в среде и state_patch (изменения относительно прошлого состояния); агент выполняет команду, получает ответ от среды и обновляет state по state_patch
Команда Codexi нашла восемь ошибок, из-за которых агенты и фоновые процессы впустую расходовали недельные лимиты пользователей Codex и ChatGPT Work. В части случаев баги съедали до 70% недельной квоты.
OpenAI объявила, что проблемы исправлены, и полностью сбросила использованные лимиты всем платным подписчикам Codex и Work. По оценке компании, после фикса та же квота позволит выполнять на 10–50% больше полезной работы в зависимости от сценария.
Сотрудники Amazon случайно превысили бюджет на использование ИИ-модели Claudei)">i (Sonneti) на $1,8 млн — ошибку в настройке ИИ-агента не замечали пять месяцев, сообщила Financial Times. Проект, где произошёл сбой, должен был автоматически сопоставлять авторов с карточками книг на Amazon, но так и не заработал, зато сжёг огромные суммы на токенах.
Случай показывает новую категорию корпоративных рисков: простые программные ошибки, которые в обычных системах почти ничего не стоили бы, при работе с платными LLM превращаются в сотни тысяч и миллионы долларов незапланированных расходов.