Progressive Disclosure для MCP/API - экономия токенов в ~99% Я вчера писал про 12 итерацию эксперимента с Personal OS, где я упаковал весь интерфейс для работы агентов и людей с версионированными документами (аналог своего GitHub + markdown) в две команды для CLI/MCP: (1) start “task name” - начинает сессию и получает описание текущего SDK (2) run “Python script” Это позволило упаковать сложный функционал работы с документами, версиями в SDK. Агент начинает новую сессию, получает текущий SDK, видит его возможности и начинает писать код для выполнения задач. Код выполняется на сервере в песочнице (настоящей, а не контейнер) с ограничениями пользователя. Это позволило перестать, наконец, делать новый деплой серверов API-шек и всех клиентов на каждое улучшение тулзов. Я смог прогнать пяток экспериментов по оптимизации SDK (более удобные функции) и сократил время праздношатания агентов в два раза. А потом Дима @kuchin (спасибо тебе!) скинул ссылку на Cloudflare Code Mode, где сделали что-то подобное, только масштабом сильно больше - им надо было паковать 1M-2M токенов описывающих их 2549 AI tools. Благодаря progressive disclosure и Code Mode + SDK они смогли уменьшить расход токенов для типичных задач агентов этак раз в 1000, а число инструментов сократить до двух. И вот тут я понял, что с таким подходом у нас не просто появилась среда, которая чуть улучшает подход с shared git repo + markdown и позволяет людям с агентами быстро обмениваться информацией без риска что-то безвозвратно потерять. Теперь же можно в этот SDK вшивать процессы по работе с информацией в компании не словами, а кодом (например - как создавать инвойсы, где их хранить, откуда брать статистику, как версионировать), выкатывая новые версии SDK на лету (они подхватываются новыми сессиями агентов). И все это без опасения, что контекст моделек переполнится. Благодаря progressive disclosure, он как был в 1000 токенов, так и останется, даже если SDK вырастет до двух с половиной тысяч инструментов, как у Cloudflare. Теперь только остается осознать все открывающиеся возможности. Ваш, @llm_under_hood 🤗

😢 Новые модели нам больше недоступны Все вы прекрасно знаете про историю того, как Anthropic выпустили и Fable, и Mythos модели, а потом правительство сказало: «Ай-яй-яй, нельзя так». И вот мы уже сколько времени сидим без этих моделек. Кстати, ближайшее время они всё-же вернутся, но не на долго. Но благодаря всей этой заварушке с правительством, мы не получили с вами новую версию GPT-5.6. 😩 Потому что она уже готова, уже есть бенчмарки, есть пресс-релиз, но доступна только для узкого круга лиц. 🤷‍♂️ Причины те же самые — не хотят получить бан от правительства. 😅 А ещё на днях вышла Sonnet 5, которая вроде как должна быть быстрой, дешёвой, но… Но по факту она жжет сильно больше токенов чем Opus и поэтому по итогу получается ДОРОЖЕ! 🤯 Это, кстати, вообще интересное отличие между OpenAI и Anthropic. OpenAI очень заморачиваются на эффективность токенов для решения задач. Если посмотрите все бенчмарки, модели от OpenAI тратят сильно-сильно-сильно меньше токенов. И в итоге решение получается сильно дешевле. При этом Anthropic же как будто бы пошли по пути: «сжечь вообще все токены, которые существуют, лишь бы решить задачу». 🥴 Мне лично больше нравится подход OpenAI. 🤔 А вам? Свята место | 10МДК | ВЕБМастер | YHub