ИИ

Я конечно видел много способов harness для агентов, но это пожалуй самый прикольный: Парень придумал для агентов papercuts, чтобы они могли жаловаться на любую ерунду которую нашли во время выполнения задачи Потом по этим записям можно понять какие узкие места в репо замедляют работу, например: где есть расхождение доков, какие скрипты перестали работать и тд. Просто нужно добавить в AGENTS․md эту инструкцию:

# Log papercuts When you encounter small friction while working—a failed tool call, confusing setup, flaky command, stale cache, misleading error, missing helper, or non-obvious gotcha—record it in `PAPERCUTS.md`. Create the file if it does not exist. Append one entry in this format: ## YYYY-MM-DD HH:MM — <model> <What you were doing> → <what got in the way>. Include a possible cause or fix when useful. Log papercuts proactively when they occur, but do not interrupt the main task. Do not add duplicate entries. Papercuts are minor workflow friction, distinct from completed-work logs and real bugs or tracked issues.

Или еще проще, на гитхабе есть специальный CLI-тул под это. Ну и само по себе интересно читать как агент на естественном языке ругается на глупые проблемы☕️ @tips_ai

Старые тренды: -------------------------------------------------------------------------------- | | 1 | Prompt Engineering | 2022–2024 | Идеальный одиночный запрос → один ответ | 2 | Context Engineering | 2025 | Динамически собранный контекст (RAG, history, tools) — «вложения к письму» | 3 | Harness Engineering | 2025–2026 | Архитектура среды вокруг агента: constraints, feedback loops, linters, lifecycle | 4 | Agentic Loop | 2025–2026 | Итеративный ReAct/CoT цикл с tool-use, planning, self-reflection Новые тренды: Тренд 5: Мультиагентная оркестрация (Multi-Agent Orchestration) (Аля я выше обозвал это MAS, ибо не читаю терминологию) Тренд 6: Self-Improving Agents / Метакогнитивное самоулучшение (то что делаю тоже) Тренд 7: Agentic OS и «Агентная операционная система» Agentic Operating System (AOS): стандартизированный слой оркестрации, безопасности, compliance и управления ресурсами для роёв агентов (LA5xLG7xLAS9) -> оказывается это Agentic Operating System (AOS) Тренд 8: World Models — замена LLM-ядра агентов Это главная академическая ставка на 2027–2030. ЯNN LeCun создал AMI Labs, собрал $1.03 млрд (крупнейший seed в истории Европы, March 2026, инвесторы: Bezos, NVIDIA, Samsung, Eric Schmidt, Toyota) на архитектуру JEPA (Joint Embedding Predictive Architecture). -> это прошлый пост про это, что нельзя просто так доверяться модели и того что она делает. Нужны планировщики / архитектура / потенциальные последствия и их моделирование + возможные cons/pros/улучшения/деградация -> прежде чем пытаюсь что-то внедрить, строится всегда теперь графово-векторная (+ фрактальная если нужна детализация типа оптимизация кода или отдельных процессов) архитектура/blueprint и есть "эталонный" текущий blueprint/архитектура которая уже A/B тестами математически доказывает улучшения/деградацию. Тренд 9: Embodied AI — агенты с физическим телом. 💰Дорого/богато, но есть Bambu lab принтер в доступе и ЧПУ станки с конвеером/производственной линией. Не понятно как тестить / применять и куда продавать / предзаказы делать. Тренд 10: SwarmAgentic — полностью автоматизированная генерация агентных систем. 🤔🛠 куда-то туда пробую идти/развивать

А сегодня давайте почитаем визионерские откровения Сатьи Наделлы, которыми он поделился у себя в блоге недели три назад.

Я много размышлял о будущем компании в экономике, основанной на искусственном интеллекте. Этот переход отличается от всех предыдущих изменений. В прошлом мы использовали технологии для повышения эффективности человеческого капитала. Впервые мы можем создать реальную когнитивную петлю между людьми и цифровыми системами. Это ошеломляет, потому что меняет как мы представляем себе всю работу внутри организации. На кону стоит не просто внедрение очередного инструмента или системы. Главный вопрос в том, как организации будут продолжать учиться, создавать интеллектуальную собственность, отличаться от конкурентов и развиваться в мире, где AI-модели способны непрерывно впитывать знания людей и организаций и коммодизировать их. Каждой компании придётся создавать два вида капитала: человеческий и токен-капитал. Человеческий капитал включает знания, способность выносить суждения, отношения, изобретательность и умение распознавать закономерности. Токен-капитал — это AI-возможности, которые компания создаёт, развивает и контролирует. По мере роста значимости токен-капитала, человеческий капитал не становится менее ценным. Напротив, его значимость только возрастает. Я убеждён, что именно человеческая агентность будет драйвером развития токен-капитала. Люди будут ставить амбициозные цели, соединять идеи из разных областей, выстраивать отношения и распознавать действительно значимые закономерности. Без человеческого целеполагания вычислительные мощности будут лишь бесконечно работать по кругу. Ключевая возможность заключается не в том, чтобы выбрать лучшую модель. Она заключается в создании обучающего контура, внутри которого человеческий и токен-капитал взаимно усиливаются и накапливаются. Можно передать AI отдельную задачу или даже целую работу, но нельзя передать ему собственное обучение. Будущее компании определяется её способностью накапливать результаты этого обучения, распределяя их между людьми и технологиями. Это требует новой архитектуры, при которой каждая организация сможет создавать агентные системы, сохраняя при этом контроль над своей интеллектуальной собственностью. Компания должна иметь возможность заменить одну универсальную модель на другую, не потеряв при этом экспертизу, накопленную внутри её обучающей системы. Именно это станет проверкой на управляемость и суверенитет. Такой обучающий контур становится новой интеллектуальной собственностью. Я представляю его как машину постоянного восхождения к следующему максимуму. И в отличие от большинства активов, его ценность накапливается по принципу сложного процента. Каждый улучшенный рабочий процесс создаёт более качественный обучающий сигнал, ускоряя накопление неявного знания, уникального для конкретной компании. Организации, которые начнут строить такие системы раньше других, получат преимущество — и его будет трудно воспроизвести, независимо от моделей. На мой взгляд, нашим приоритетом должно быть создание такой экосистемы, а не просто передовой модели, чтобы ценность распространялась повсеместно для каждой компании, каждой отрасли и страны. Организации должны иметь возможность владеть собственным обучающим контуром, в котором закодировано их институциональное знание и внутри которого одновременно накапливаются человеческий и токен-капитал. Когда это произойдёт, компании начнут создавать ценность как для себя, так и для всей экономики. Сотрудники увидят, как их экспертиза усиливается и становится частью систем, способных воспроизводить и масштабировать эти знания. Выгоды от этого будут получать и бизнес и сообщества, частью которых он является. И именно такое устойчивое равновесие нам следует строить вместе.

→ https://snscratchpad.com/posts/frontier-ecosystem

Еще новинки в семействе LingBot LingBot-Vision Vision-модель для роботов и мобилок Ловит границы, глубину, геометрию сцены. Не "что на фото", а "где края и как далеко" • 4 размера: от 13M до 1.1B параметров • self-supervised обучение без разметки • обгоняет DINOv3 при кратно меньших параметрах Apache-2.0, веса открыты, подходит для edge и роботов Гитхаб HF ——— LingBot-Depth 2.0 Считает глубину по фото, строит 3D-карту сцены. Справляется на сложных текстурах, с прозрачностью и в слабом свете. • оценка глубины с учётом семантики сцены • работа с мультимодальными входами (RGB + признаки) Подходит для мобильных и edge-устройств. Волшебно, но ссылок на саму модель нет 🤷‍♂️ #vlm #cv #video2depth #video2feature

📌 Anthropic описали способ отключать потенциально опасные знания в моделях Компания опубликовала результаты исследования о том, как управлять доступом к знаниям двойного назначения в больших языковых моделях. Работу выполнена в сотрудничестве с AE Studio.

Речь идёт об информации, применимой и во благо, и во вред. Например, знания по кибербезопасности помогают закрывать уязвимости, но и находить их для атак, а сведения из вирусологии нужны как разработчикам вакцин, так и тем, кто захотел бы создать опасный патоген.

🟡 Предложенный метод назвали GRAM К каждому слою нейросети добавляются дополнительные нейроны, сгруппированные в отдельные модули - по одному на каждую чувствительную тему. Во время обучения тексты из такой темы, скажем вирусологии, обновляют только соответствующий модуль, тогда как общие знания модель использует, но заново не переучивает. После обучения модуль можно удалить и вместе с ним исчезает и сама способность. Либо оставить для узкого круга пользователей, которым эти знания нужны по работе. 🟡 Метод актуален, потому что нынешние средства защиты несовершенны Обучение отказам и классификаторы, отсеивающие опасные запросы, не меняют того, что модель знает, и их можно обойти через джейлбрейк. Другой подход, фильтрация обучающих данных, убирает знания, но требует обучать отдельную модель под каждый набор ограничений, что для топовых моделей слишком дорого. GRAM, по замыслу, должен давать эффект множества по-разному отфильтрованных моделей ценой одного цикла обучения - в экспериментах с 4 категориями одна модель настраивалась 16 способами. 🟡Тесты Метод проверили в трёх условиях: синтетическом наборе детских рассказов, на модели с 800 млн параметров, обученной на смеси веб-текстов, кода и научных статей, и на 7 моделях размером от 50 млн до 5 млрд параметров. По результатам, удаление модуля убирало соответствующую способность почти так же полно, как если бы модель на этих данных вообще не обучалась, и при этом не ухудшало общие показатели. При этом защита устояла перед попыткой восстановить знания дообучением на токсичных данных, тогда как отдельный метод разучивания знания лишь подавлял, и их удавалось вернуть. 🟡Дисклеймер

GRAM не применялся ни к одной из рабочих моделей Claude, и в Anthropic не уверены, что это вообще произойдёт. Есть нерешённая проблема - некоторые полезные знания могут быть настолько переплетены с опасными, что чётко разделить их не удастся ни этим методом, ни фильтрацией.

Код, скрипты анализа и метрики выложили на GitHub. Обучающие данные (токенизированные наборы и корпус научных статей по двойным темам) доступны на Hugging Face. @ai_machinelearning_big_data #AI #ML #LLM #Alignment #Research #Anthropic

GPT 5.6 Sol Ultra - ну, за трехмещегов! Открываем новый chatGPT, берем Sol Ultra и пишем: "Попробуй построить городской пейзаж, сочетающий архитектуру эпохи Эдо, киберпанк и псевдозападную архитектуру. Пусть в городе будут как одноэтажные здания, так и высотные небоскрёбы. Удели внимание даже мелким деталям, например торговым автоматам. Времени можно потратить сколько угодно. Создайте командой городской пейзаж максимально высокого качества. Перед началом моделирования найдите в интернете чертежи и информацию об устройстве синтоистских храмов и современных зданий, а также изучите способы их строительства и подходящие текстуры. Не беспокойтесь о расходе кредитов - главное создать городской пейзаж высочайшего уровня. На объектах должны быть заметны следы старения и повреждения, а вся сцена должна быть выдержана в единой цветовой тональности. Нужен максимально реалистичный и готовый к немедленному использованию городской набор. Не создавайте всё сразу одним блоком - делайте каждый ассет отдельно, один за другим. Пожалуйста, создайте работу мирового уровня, как профессиональный 3D-художник." Уходите на три часа. chatGPT + MCP пишет код на Python для Blender, самостоятельно делает снимки в Blender, проверяет результат и продолжает работу. Если написать "generate the texture with image generation too" будет дольше, но тоже работает. Возвращаетесь и видите: «Работал 2 часа 51 минуту.» «Я закончил. В открытом сейчас Blender уже загружена финальная версия мастер-сцены города.» Ну ладно, давайте пока за архвиз. С персонажкой надо еще разобраться. Сорс - там про токены есть скрины. @cgevent