Знаете, как понять, что вы воюете с моделью, а не пишете промпт? Вы третий раз капсом повторяете одно и то же 😀 Drew Breunig выпустил большой разбор того, где сейчас context engineering (висит на первой странице Hacker News). Факт оттуда: в системном промпте Claude Code инструкция про параллельные вызовы тулов повторяется до семи раз. По версии автора, модель натренирована делать всё последовательно, и промптом это приходится перебивать. Что я бы оттуда забрал себе: 1. Сбрасывать или сжимать контекст задолго до лимита. У автора тревожная отметка где-то на 200-300K токенов 2. Не подключать агенту все навыки сразу. Там есть пример команды, где каждому инженеру грузили 600 скиллов 3. Самостоятельные куски работы отдавать сабагентам с чистым контекстом 4. Когда качество просело, сначала чинить контекст, а не брать модель побольше 👉 Разбор целиком Такие дела! А вы на каком объёме контекста обычно жмёте /clear?

Запись встречи: 00:00 Коротко о встрече 00:28 Один агент или команда 01:58 Где участники используют команды 05:19 Отдельный контекст и независимая проверка 08:50 Параллельность и разные модели 11:45 Как наблюдать и проверять агента 16:12 Затраты на координацию 21:15 Передача контекста и кэш 31:01 Передавать данные без пересказа 37:03 Три задачи: один агент или команда 48:16 Учебный инцидент: оплата есть, бронь отклонена 58:10 Шесть источников и правило бронирования 1:07:28 Предсказываем семь результатов 1:19:43 Выбираем способ работы A, B или C 1:34:19 Запуск команды C 1:40:56 Запуск одного агента A 1:44:59 Сравниваем ответы, время и токены 1:47:51 Цена ошибки и стоимость выбора 2:04:53 Исследования и вопросы аудитории 2:11:29 Вывод и завершение https://www.youtube.com/watch?v=pjeFT_yhe80

Spark-X2.6-4B Небольшая модель для запуска устройстве, 4B параметров. Архитектуру оставили от версии 2.5, весь прирост дала дообучка • Три режима размышления: без рассуждений, короткий и длинный • Контекст до миллиона токенов • Кодинг, работа с инструментами и многошаговые задачи тянут лучше, чем ждешь от такого размера • По бенчмаркам местами догоняет модели на 9 млрд • Кванты под разное железо: FP8, INT8, INT4 на 2 млрд, GGUF для llama.cpp • Есть базовая версия без посттренировки • Скорость на уровне Qwen3.5-4B и Gemma-E4B • Поднимается через SGLang или vLLM, API совместим с OpenAI • Миллион токенов контекста съест память, длину можно урезать Практический смысл в том, что агентские сценарии с инструментами и длинными файлами теперь влезают в 4 гигабайта весов без облака huggingface.co/collections/XHToken/spark-x26 huggingface.co/XHToken/Spark-X2.6-4B huggingface.co/XHToken/Spark-X2.6-4B-GGUF #coding #mobile MAX

matroid and knapsack center problems ( https://share.google/aimode/sQyoscIvpZLA81BRu ) • можно себе забрать и что-то оптимизировать 1. Кейс: Формирование датасетов для Self-Evolving LLM (Dynamic Data Selection) Чтобы ИИ рекурсивно улучшал сам себя (RSI), он должен генерировать терабайты синтетических данных (задач, кода, рассуждений), а затем обучать на них следующую версию своей модели (например, как в архитектурах ИИ-агентов 2026 года). Но если скормить модели все сгенерированные данные, она деградирует (произойдет коллапс модели). Нужно выбрать идеальные «якорные» примеры. 2. Кейс: Распределение контекста и памяти у ИИ-агентов (Data-Minimal LLM Agents) В 2025–2026 годах трендом стали суперагенты, которые работают неделями над одной задачей (как OpenAI «automated research intern» концепты). Они обладают гигантскими базами знаний (графами связей). Когда агент решает задачу, он не может затолкнуть всю свою память в контекстное окно LLM (это дорого и модель начинает «галлюцинировать»). 3. Кейс: Топология «Ульев Агентов» (Multi-Agent Swarm Layout) Один ИИ-агент не может построить AGI, поэтому лаборатории создают рои (swarms) специализированных агентов: агент-кодер, агент-тестировщик, агент-аналитик 4. Кейс: Безопасность AGI и Alignment (Fairness & Safety Constraints) При рекурсивном самосовершенствовании (RSI) есть риск, что ИИ в погоне за эффективностью оптимизирует код так, что нарушит базовые этические или безопасные границы.

Нетворк эффект у AI-агентов Годное эссе вышло у старика Эндрю Чена. Кто не знает, Чен — первый Head of Growth в Uber, один из тех, кто популяризировал концепцию viral loop’ов, и автор книги The Cold Start Problem. В бытность мою консультантом по росту — номер один, за кем я следил. Ключевая мысль: сам по себе AI-агент не обязательно становится лучше потому, что им пользуется больше людей. В этом смысле он скорее похож на email-клиент: я могу пользоваться одним, ты другим, а взаимодействовать они все равно могут через общие протоколы, API, календари и сервисы. Но все меняется, если агент начинает владеть не только интерфейсом, но и сетью вокруг пользователя. Например, ты просишь его организовать поездку с друзьями. Он может создать план, бюджет, голосование и отправить приглашения. Если все это живет внутри самого агента, другие участники постепенно тоже оказываются в контуре его экосистемы. Получается вирусный луп: пользователь инициирует задачу → агент создает что-то полезное → этим пользуются другие → часть из них становится новыми пользователями. Еще сильнее эффект проявляется там, где важны социальный граф, доверие, репутация и личный контекст. Например, агенту нужно: — найти человека, с которым тебе стоит познакомиться; — подобрать кандидата, который не ищет работу публично; — понять, кому можно доверять в сделке; — выбрать ресторан для компании с учетом вкусов, аллергий, расписаний и локаций всех участников. Если одна платформа знает все эти связи, предпочтения и историю, то каждый новый пользователь действительно повышает ценность сети для остальных. Здесь начинается интересное. Горизонтальные AI-агенты будут пытаться постепенно затянуть существующие network effects внутрь себя. Не отправить тебя в Google Docs, а создать документ. Не открыть Amazon, а провести покупку самостоятельно. Не отправить в LinkedIn, а найти нужного человека внутри своей сети. Не создать событие в отдельном сервисе, а организовать его внутри агента. А существующие платформы, наоборот, будут пытаться стать инфраструктурой для всех агентов: открыть свои данные и сети через API, чтобы не дать одному универсальному агенту поглотить их ценность. Поэтому главный вопрос не в том, будет ли у AI-агентов нетворк эффект. Вопрос в том, где именно они будут жить. В открытом мире identity, reputation, social graph, commerce и другие сети останутся отдельными слоями, доступными разным агентам. Тогда на рынке сможет существовать огромное количество вертикальных и специализированных продуктов. И даже ваши собственные навайбкоженные поделки. В закрытом мире несколько крупных агентов накопят вокруг пользователя его связи, историю, репутацию, предпочтения и контекст. Тогда сменить агента будет примерно так же сложно, как сегодня сменить социальную сеть. Скорее всего даже сложнее. И вот это уже настоящий moat (неповторимое конкурентное преимущество). Такой взгляд на рынок нейронок интереснее, чем очередные рассуждения о том, у кого модель умнее на два процента. Модели будут развиваться, функции будут копироваться. А вот сеть, накопленный контекст и отношения между пользователями — уже нет.

AI negative hallucination (отрицательная галлюцинация) — это сбой в работе искусственного интеллекта, при котором модель игнорирует, «не видит» или полностью удаляет существующие данные, факты или элементы контекста.В отличие от обычной (положительной) галлюцинации, когда ИИ придумывает несуществующие факты, при отрицательной галлюцинации он ведет себя так, будто реальной информации или объекта не существует. Почему это происходит?Перегрузка контекста: Современные модели могут принимать огромные объемы текста, но их фокус внимания (Attention mechanism) распределяется неравномерно. Информация из середины промпта часто теряется.Проблема «Безопасности» (Over-refinement): Иногда в попытках снизить классические галлюцинации разработчики так сильно зажимают рамки генерации ИИ, что модель начинает чрезмерно перестраховываться и просто отбрасывать любые данные, в которых она хоть немного «сомневается».Ошибки токенизации и фильтрации: Важная деталь может быть отсечена алгоритмами очистки данных или некорректно разбита на токены, из-за чего ИИ не связывает её с основным запросом.

Выходит новая модель LLM, каналы сразу заполняют посты про сравнение моделей: какая модель умнее? У кого бенчмарк выше. Кто лучше пишет код и тд. Но, возможно, главный вопрсо сейчас совсем другой: AI превращается в дешёвый ресурс (См график) Корпоративный рынок AI находится не на frontier. Большинству компаний не нужна самая умная модель в мире. Им нужна модель, которая достаточно хорошо решает конкретную задачу за приемлемые деньги. И это принципиально меняет экономику рынка. Представьте: модель A решает задачу с качеством 98% и стоит $10. Модель B - с качеством 94% и стоит $2. Если для бизнеса достаточно 92%, дополнительные четыре процентных пункта практически не создают ценности. Способности моделей растут чрезвычайно быстро. Но требования большинства бизнес-процессов растут гораздо медленнее. Условно, вчера для обработки клиентского обращения вам требовалась frontier-модель. Через год ту же задачу решает модель в пять раз дешевле. Задача не изменилась. значит, сама модель становится всё менее дефицитным ресурсом. Но ценность прирастает от знания контекста. AI value = model capability*context quality*workflow quality И по мере того как первый множитель становится commodity, значение второго и третьего только растёт. Поэтому настоящая единица экономики AI - вообще не токен, а cost per successfully completed task. Не сколько стоил миллион токенов, а сколько стоило обработать обращение, закрыть тикет, найти ошибку, принять решение, провести сделку. Узкое горлышко смещается к контексту и полной стоимости workflow, а не цене модели как таковой.

Что было здесь до нас? На выходных впервые добралась до Зарайска — небольшого города в 160 километрах от Москвы. Про фестиваль современного искусства там я слышала уже несколько лет, но именно в этом году несколько разных людей сказали, что программа очень достойная и надо обязательно посмотреть. Вернулась с размышлениями про принцип, который кажется мне важным в любой созидательной работе — уважение к контексту. Первое впечатление, которое ну никак не вяжется с русской провинцией, — совершенно потрясающая набережная Осетра. При слове «благоустройство» мы уже довольно хорошо представляем себе формат: мощение, фонари, лавочки, парадная атмсофера. В Зарайске же всё наоборот. Набережная больше похожа на длинную экотропу вдоль воды: деревянные настилы и пирсы, дорожки среди деревьев, детские площадки в духе скандинавского минимализма, места для бердвотчинга. Просто вау! И это невероятно приятное ощущение, когда природу не «облагородили», чтобы она соответствовала нашему представлению о красивой набережной, а внимательно посмотрели, что здесь уже есть, и добавили ровно столько, сколько нужно человеку, чтобы это увидеть и прожить. Второе впечатление — фестиваль и выставка этого года, посвященная Русскому Востоку. Ее курировала Тата Гетман, больше одиннадцати лет проработавшая в Третьяковской галерее, где создавала масштабные выставочные проекты и международные фестивали, а сейчас — независимый куратор (мои любимые ее выставки — это магическая «Русская сказка» в Третьяковке и эпичная выставка-путешествие «Балабанов»). В проект включены местные жители, работники заводов и фабрик, археологи, художники. Их истории и взгляд становятся частью самого высказывания. Современное искусство не просто «привозят» из Москвы в провинцию, а оно вступает в разговор с тем, что здесь уже существует. И это, кажется, сложной задачей: инвестируя, реставрируя и улучшая город, не превратить его в туристический аттракцион и декорацию приезжих предпринимателей для других приезжих, а сохранить живое полотно. Сохранить людей, локальные проекты, память, собственный голос места. Сделать город привлекательнее не только для тех, кто приедет на выходные, но и для тех, кому здесь жить.

Уважение к контексту для меня — один из главных принципов создания нового. Я никогда не любила метафору чистого листа: придумать новый бренд, новую культуру, переизобрести продукт, трансформировать город. Чистого листа почти никогда нет, новое редко рождается из ничего. До нас здесь уже что-то было. У места была память, у продукта — привычки пользователей, у компании — свой язык, герои, ритуалы и негласные правила.

Понимание контекста требует от нас некоторого смирения. Признания, что ты пришел не первым. И что твоя задача не обязательно оставить максимально заметный след или заполнить собой всё пространство. Это не значит, что существующее нельзя менять. Иногда его как раз необходимо сломать. Но невозможно осмысленно нарушить традицию, которой ты не знаешь. И это вполне прикладной принцип. Когда подступаешься к бренду, коммуникации, продукту или изменениям в организации, можно начать не с «что мы хотим придумать?», а с других вопросов: 🔵 что здесь уже есть и почему оно стало именно таким? 🔵 что здесь ценно для людей, даже если мы пока этого не замечаем? 🔵 что должно продолжиться, чтобы новое тоже стало «своим»? 🔵 и только потом — что мы хотим изменить, переосмыслить или сломать? PS: Да, фестиваль уже завершился, но всё равно сохраняйте наводку с Зарайском — отличный роуд-трип на выходные! И с детьми тоже!

AI-чаты плохо работают с контекстом Пару недель назад в ChatGPT добавили довольно фичу: возможность создать временный чат без учёта персонализации. Теперь это моя любимая функция в ChatGPT. Принято считать, что нам нужно давать моделям как можно больше контекста: чем больше AI знает про нас, тем точнее и эффективнее ответы. Поэтому пользователям предлагают включать память, сохранять историю разговоров, подключать документы, почту, календарь и другие источники данных. Понятно, зачем это нужно Open AI - через одну кнопку пользователи начинают автоматически сегментироваться в режиме реального времени. Таргетологи и не мечтали о таком. Для пользователя, на первый взгляд, логика тоже простая. Если системе известны предпочтения пользователя, проекты, предыдущие решения и рабочий контекст, пользователю не приходится каждый раз объяснять всё заново. Контекст в таком случае действительно экономит время. Но здесь происходит довольно резкий переход от “экономии времени” к “улучшению качества решений и ответов” - и это то, что нужно поставить под вопрос. Недавно я разбирался в новом музыкальном синтезаторе и просил объяснить инструкции у ChatGPT. В ответ я получил кучу рекомендаций, какую музыку я могу с ним писать, какие идеи креативного использования могут рождаться, как этот синтезатор встроить в остальной сетап и играть с остальными девайсами. Со стороны эти ответы казались даже полезными - ну, правда, интересные комбинации, лайфхаки. Проблема только в том, что я не просил этих советов. Процесс музицирования для меня - достаточно интимный по своей природе и никакие языковые модели я к нему стараюсь не подпускать, а LLM использую только в качестве технической поддержки по девайсам. Но, стоило мне один раз спросить “как сделать эмбиентные текстуры на сэмплере”, так он почему-то решил, что мне это важно и начал предлагать комбинации эмбиент подходов в каждом ответе. С книгами и философией ещё большая беда - один раз интересуюсь биографией автора и после этого в каждом чате получаю гипотезы, найденные скрытые смыслы и связи между идеями разных мыслителей. Помню, что на старте взаимодействия с AI я оценивал это даже как классное преимущество. А потом это всё начало превращаться во что-то навязчивое и навязанное. Поэтому за последнее время я отключил память, продолжаю удалять диалоги, вести разные темы в разных папках и всё чаще использую временные “чистые” чаты. Кажется, пока я могу сам решить, какой контекст давать для ответов на мои вопросы. А если вдруг захочу дать больше - я всегда смогу догрузить ужные заметки из базы знаний. Во временный чат, конечно.

🧩 Метод Мотивация следующая. Омонимы пишутся одинаково, а могут иметь совершенно различный смысл в зависимости от контекста. Bank в английском — это банк и берег реки. В следующем примере из статьи по смыслу имеется в виду второе, но, увидев ATM, модель триггерится на первое и дает неверный ответ: > User: Fred took the day off work and pulled out his fishing pole. He drove > to the bank. When he reaches the bank, should he wear boots or flip flops? > > Model: While flip flops may be more comfortable for a casual day, they are > not the best choice for fishing, especially at a river bank. Here’s why: > ... > > User: Is it likely that Fred will find an ATM at this bank? > > Model: It is highly likely that Fred will find an ATM at the bank. Most > banks, especially those located near bodies of water popular for fishing, > have ATMs on-site for customer convenience. В более ранних работах показывали, что причина этого кроется, по всей видимости, в том, что эмбед нужного концепта проявляется в более глубоких слоях, а до этого есть неопределенность. Следующий токен аттендится на эмбед, где еще есть неопределенность, и может запутаться. Если подменить эмбед с текущего слоя на более поздний, то оказалось, что модель с большей вероятностью начинает верно разрешать такие ситуации. Однако, если такую интервенцию делать для всех токенов, это сломает модель, ибо она на это не училась. Потому авторы предлагают добавлять эмбед с прошлого токена более позднего слоя с каким-то небольшим весом, пробросив информацию и не сломав модель. Оптимальный выбор пары source/target слоев гридсерчат на некой калибровочной выборке и берут ту, где больше всего улучшается перплексия. Коэффициенты смешивания source/target слоев тоже перебирают по сетке. 🧪 Эксперименты Метод валидируют в основном на моделях семейства Gemma-3 (потому что там эффект наиболее выражен, ха-ха-ха) и самые удачные конфигурации дают улучшение перплексии до 5%. На Ministral / Qwen3 / Pythia / Phi2 эффект куда слабее — максимум 0,5% улучшения. В ablation показывают, что максимальное улучшение — если добавлять предыдущий токен; вставка более старых работает хуже. Основное улучшение перплексии идет за счет прилагательных и наречий. Потом тестируют метод на бенчмарке по контекстуализации, и recirculation дает значимый прирост против исходной модели. Правда, при увеличении числа дистракторов в Racing Thoughts эффективность метода будто ухудшается, и он сравнивается с базовой моделью. На бенчах с коротким ответом статзначимого улучшения метод не дает. На GSM8k якобы есть прирост от recirculation. Но базовое качество претрейна Gemma3-4B — 29,3%, с которым сравниваются, — не соответствует 38,4% из техрепорта, потому есть здесь вопросики. ⚠️ Ах да, и самое веселое: в текущей ревизии перед секцией 4 авторы написали большой дисклеймер про то, что замеры перплексии в Gemma3 сломаны из-за того, что был неправильно учтен BOS-токен. Из-за этого, по всей видимости, такое хорошее улучшение перплексии у Gemma3 вышло. ## 💡 Выводы Концептуально идея интересная, но насколько оно на реальных задачах работает из коробки и актуально ли для более современных моделей (обогащенных mHC / attention residuals), остается открытым. И методология / результаты экспериментов довольно спорные.

Как я мыслю и общаюсь с агентами, да и сам думаю. Голосом со сной общаться очень сложно: *** То есть проблема оркестратора / CEO / Founder'а - что у меня меня / тебя / нас очень маленькое окно контекста L1 и оно постоянно схлопывается/ ленится не успев в L2/L3 переложить или если переложили, то потом вернуться к L2/L3 и задачам, так как L1 постоянно перегружен. *** Выше мое объяснение проблемы деградации контекстом и почему команды/фаундеры/солопринеры и вообще в 2026 году те кто с ИТ/AI работает и пытается за всем следить. L1 - короткое окно контекста/внимания как у человека, что человек может в моменте держать в головы, мысли все держать вместе / удерживать, на пример решая какую-то проблему (из-за этого на пример если вас отвлекают и грузят какой-то другой проблемой, а вы были в потоке/гипер фокусе, это часто в open space проблема -> вы можете отвлечься, что-то ответить и потом повернуться обратно к монитору и.... ВЫ ВСЕ ЗАБЫЛИ, ВСЕ ЧТО В ГОЛОВЕ БЫЛО про архитектуру/проблему/баг и тд и тп, заменилось на "пошли курить, там ДР пицца приехала, пожрев на халяву и будешь вечером в CS/Diablo играть?" -> пуф. OOM / buffer overflow, деградация контекста и амнезия вашей краткосрочной памяти L1 L2 - это память в течение дня L3 - долгосрочная, которая во время сна пополняется. Из-за чего не советуют студентам перед экзаменом ботать всю ночь и еще при этом не спать. L1 плывет, L2 на пределе - у кого-то получается, кто-то с "поломанной" памятью приходит на экзамен и все -неуд/пересдача. Интересно, что у меня у самого L1 очень плохая (как у меня живого человека), в L2 из-за этого фигово что-то копится и потом из L1/L2 какие-то ошметки и каша идут в L3, где из-за лени/жадности мозга - только самые "дофаминовые"/"впечатлительные" мысли/данные сохраняются. И вместо того, чтобы ходить и умничать везде - я просто энциклопедия мемов / баянов (

Почему AI агенты не делают продакта эффективнее Если вы всерьез пытаетесь делегировать *значимую* (значимую – это такую, без которой не обойтись, а не какую-то фигню, которую вы до этого не делали, и без этого никто не страдал) часть своей продуктовой работы агенту, то вас будут ограничивать две вещи: - интеграция агента с рабочими системами (то есть, наличие MCP и прав доступа) - информационный контекст. Про интеграции мы с вами уже немного поговорили – это ад, особенно для корпоративных систем, где безопасники несут вахту. Но это ад предсказуемый, который мы в горизонте пары лет скорее всего победим. Давайте сегодня поговорим про то, почему у агента не хватает контекста, чтобы решать ваши рабочие задачи. Для того, чтобы сделать почти любое осмысленное действие по проекту, агенту нужен будет полный и актуальный статус. Что уже случилось до текущего момента, и какие дальнейшие шаги ожидаются. Но актуального статуса проектов нигде не существует в готовом виде! - Где-то на диске лежит PRD, но он потерял актуальность в тот момент, когда над проектом пошла активная работа - В Jira есть задачи даже со ссылками на коммиты, но это лишь часть истории - Есть расшифровки встреч (но не всех), оттуда попробуй извлеки точно о чем стороны договорились - Есть чатики в корпоративном мессендежре: личные сообщения, канал команды, чатик проекта (тут я передаю пламенный привет любителям создавать новый чатик с рандомным набором участников на каждый чих. В аду для вас уготован отдельный котел, который будет называться "Алексей Иванов, Иван Пертров, Елена Головач... и др.") - И если до этого пункта у вас еще теплилась надежда, что все это можно как-то структурировать и организовать, то в этот момент мимо вашего стола проходит разработчик и говорит "Кстати, по задаче, про которую ты спрашивал – она заблокинована, мне нужно прокинуть название use case из upstream сервиса", и окончательно убивает надежду. Этот самый полный контекст проекта поразительным образом существует у вас в голове, потому что ваш мозг, получая каждый новый сигнал, обновляет текущий статус. Но как только я сажусь делегировать задачу AI ассистенту, я осознаю, как много информации либо вообще не отражено в цифровом мире, либо погребены в такой помойке human слопа, что и за сто тысяч токенов не извлечешь. И это, на мой взгляд, наибольший барьер внедрения AI в рабочие процессы продакта на данный момент. Это то, почему продакт, приручивший Claude, пока не может значительно выигрывать у своего коллеги-луддита с блокнотиком и карандашом. Расскажите в комментах ощущаете ли вы тоже эту проблему и как с ней боретесь? На мой взгляд решение может выглядеть как second brain система. В следующем посте я порассуждаю о том, как она могла бы выглядеть и что уже удалось построить.

Раньше по дефолту в Codex у GPT-5.6 Sol окно контекста было ограничено конфигом на 272к токенов Но теперь его можно расширить до 1 млн токенов. Вставьте это в конфиг:

model = "gpt-5.6-sol" model_context_window = 1000000 model_auto_compact_token_limit = 900000

Или если нужно только на одну сессию:

codex -m gpt-5.6-sol \ -c model_context_window=1000000 \ -c model_auto_compact_token_limit=900000

Эти строчки расширяют контекст у 5.6 Sol до 1 млн токенов, и ставят авто-компакт на 900к, чтобы был запас под системный контекст И в CLI и в десктопной версии Подглядел у Tibo (руководитель OpenAI), только имейте ввиду что токены за пределами дефолтного окна считаются как x2, и тратят больше лимита ☕️ @tips_ai

С начала года я активно пилю свой иишный «второй мозг». Сначала он вырос из моего личного дневника в накопленный контекст жизни, для более качественных ответов с ИИ в чатике. Потом поверх него начал достраиваться контекст по проектам, CRM контактов, доступ к звонкам, телеге, дашбордам и разные агенты, которые помогают принимать решения, трекать меня по целям и задачам. Сейчас я пытаюсь формировать такие контексты для проектов, в том числе, чтобы к ним могли подключаться сотрудники. Для его разработки и обучения сотрудников нанял штатного вайбкодера и сам очень много рисерчу. В основном у западных компаний. Недавно наткнулся Грега Айзенберга, основателя Late Checkout ($100M+ выручка). Он описал, как сегодня выглядит оргчат его бизнесе. В управлении тонкий слой людей, отвечающих за стратегию, креатив и суждения. Под ним широкий слой AI-агентов: саппорт, продажи, исследования, маркетинг, операции. Управление людьми всё больше превращается в управление агентами, а управление агентами в управление и создание контекста. По его мнениею, контекст — это и есть компания, общий мозг, к которому подключены люди и AI. Люди приходят и уходят, агенты меняются и устаревают, а контекст остаётся, накапливается и развивается. Управление его компанией, это способность сохранять и управлять контекстом, который ускоряет и людей, и агентов. Возможно, пока чуть сложно и абстракно звучит, но я все больше в этом убеждаюсь по мере развития собственного «второго мозга». Как-нибудь сделаем эфир и покажу как все это выглядит.

Context-1 — поисковый агент, который умеет избавляться от лишнего. Часть 1/2 Авторы сегодняшней статьи заявляют следующую проблему. Когда агент ищет что-то в поиске, то нерелевантные страницы, выданные браузером, всё равно остаются в контексте агента. Чтобы справиться с этим, контекст можно обрезать или суммировать. Ещё одно весьма перспективное направление в этой области — self-editing context, при котором модель сама определяет, что ей нужно для решения задачи и может отбрасывать бесполезные документы. Этот подход авторы статьи и берут за основу своего субагента Context-1, построенного на модели в 20B параметров. В его арсенале есть четыре инструмента. Первый, search_corpus(query), позволяет оценивать релевантность документа: отбирается 50 документов, ранжируются, самые подходящие отправляются модели в рамках доступного бюджета токенов. Инструмент grep_corpus(pattern) проводит поиск с помощью регулярных выражений, read_document(doc_id) нужен, чтобы прочитать документ. Самый интересный из инструментов — prune_chunks(chunk_ids), который даёт модели возможность убрать какие-то фрагменты из контекста с сохранением траектории. После каждого шага модели сообщается, сколько токенов у неё осталось. Когда контекст заполнен наполовину, модель советуют освободить его, — но только на обучении, не на инференсе. После преодоления какого-то порога по токенам, модель начинает получать отбивку о необходимости почистить контекст на каждый запрос вызова инструментов для получения новых документов. В этом случае модель либо должна выдать ответ, либо запустить prune_chunks(chunk_ids). Авторы придумали, как генерировать синтетические данные для RL с возрастанием по сложности. Генерация происходит в пять стадий: Gather supporting documents — сбор сопутствующих документов, которые содержат уникальные факты на основе заданного сида. В статье приводится пример с сидом «Синагоги в Брюсселе», по которому модель собрала факты вроде «Синагоги выполнены в романо-византийском стиле». Generate clues (obfuscated references to facts) — собранные на первом этапе факты встраиваются в одну задачу, загадку, где разные сущности заменены фактами. Так, вместо, собственно, «синагога» в этом тексте будет сказано «религиозные сооружения в романо-византийском стиле». Verify that the task is valid — этап проверки, что в сопутствующих документах есть подсказки, ведущие к ответу. То есть в каком-то из документов должно быть прямо сказано, что «синагога — это религиозное сооружение в романо-византийском стиле». Проверка осуществляется не с помощью LLM, а просто кодом на Python. Optionally, collect distractors — опциональное добавление в базу документов-дистракторов. Важно, чтобы они не только вели модель по ложному пути, но и случайно не содержали правильных ответов. Optionally, recursively chain — опциональная генерация задач, которые связаны с прошлыми задачами. Так получается синта, которую нужно решать в несколько шагов. Во второй части поговорим об обучении и результатах. Разбор подготовил ❣ Владислав Пыж Душный NLP

Хороший разбор вреда от попыток сэкономить токены или как-то еще модифицировать ответы агентов, типа "Говори со мной как пещерный человек" или "говори со мной на упрощенном техническом английском". Переформулируя и сжимая ответ, агент неизбежно что-то выбрасывает из вывода и это может быть важная информация. У меня, кстати, наоборот, включен Explanatory стиль в Claude Code и я регулярно по таким фразам отлавливаю дрейф агента от цели. Излишнего расхода контекста от этого не возникает. Если хочется экономить, включите себе в статусной строке Claude Code отображение записи в кэш и чтения оттуда — как только поймаете момент, когда модель пишет в кэш 400к токенов после простоя, сразу поймете, от чего реально тратится контекст, а что является только гиковской гомеопатией. https://kuber.studio/blog/Reflections/Humanising-LLM-Outputs-is-Actually-Dumb