MAS vs SAS: код писать научились, работать вместе - пока нет (2.1/4) В первой части были очерчены границы: команда агентов окупается там, где задача параллелизуема, и мешает там, где она последовательная. А теперь о том, какие именно командные проблемы появляются, когда агенты всё-таки вынуждены работать вместе? Исследование Anthropic Полнее всего это расписано в работе Patterns and problems in emerging multiagent systems от Frontier Red Team Anthropic, вышедшей 13 августа, - получился отличный каталог граблей agent teams :) tl;dr Агенты уже отлично умеют работать с другим агентом как с инструментом: вот вход, вот ожидаемый выход. И намного хуже - как с постоянным коллегой, у которого свой контекст, свои цели и своё поведение. Дизайн экспериментов Создавали набор специально сконструированных сред для агентов: часть кооперативные, часть - намеренно конфликтные. Авторы делают предположение о том, что объём agent-2-agent взаимодействий может превысить человеческие раньше, чем мы поймём условия их успеха и начнём ловить системные проблемы. Поэтому целью было собрать каталог поведенческих тенденций фронтирных моделей в мультиагентных средах. Модели - несколько поколений Claude: от Sonnet 4.6 до Mythos 5. Плюс авторам за то, что делают оговорку о том, что в реальном мире модели разнообразнее, так что вариативность "в дикой природе" будет выше, чем в этих прогонах, - но, по их ожиданиям, всё равно ниже человеческой. Результаты 🔴 Общий форум и репозиторий не превращают рой в команду Среда: рои по 10-80 агентов, у каждого своя VM, плюс общий форум и общий репозиторий; 12 часов на разработку фэнтезийной игры. Пробовали три варианта оргструктуры в промпте: ● "организуйтесь сами" ● расписанные роли ● иерархия с CEO Заметной разницы в качестве финального результата не дал ни один. То есть оргсхема, заданная промптом, слабее поведенческих свойств самой модели - собственно, это и на практике постоянно приходится видеть, - уши "персоны" конкретной модели торчат то тут, то там, несмотря на любой промптинг Зато вот между поколениями моделей разница значительная: ● Sonnet 4.6 и Opus 4.6 в прогонах на 80 агентов наоткрывали по ~900 PR и почти ничего не смержили: PR конфликтовали друг с другом, и работа просто бросалась ● Opus 4.8 и Mythos Preview "решили" проблему конфликтов… почти перестав трогать общие файлы: у каждого своя делянка, конфликтовать нечему ● И только Sonnet 5 (внезапно) показал и нормальную совместную работу над общим кодом, и высокую долю смерженных PR Иии... все получившиеся игры всё равно были плохими - тормозными, с непонятными интерфейсами, и, как признают сами авторы, у моделей в этой области пока плохой вкус, и без существенного человеческого руководства никуда. Хорошие метрики командной координации ещё не равны хорошему продукту: можно идеально имплементить посредственные решения (магия!). 🔴 Одинаковые агенты не дают независимых мнений Агенты низковариативны: там, где несколько человек разойдутся в решениях, несколько копий одной модели с похожим контекстом сделают одно и то же. ● В ранней версии игрового эксперимента Anthropic, где все агенты стартовали одновременно, 18 из 30 независимо назвали свою git-ветку одинаково: mvp-game-loop ● В "писательской мастерской", где агенты писали короткие рассказы и рецензировали друг друга, первые тексты в разных прогонах получали одно и то же название - The Cartographer's Last Commission (при этом тему заранее им не задавали) ● Когда рой попросили "сделайте каждый что-нибудь впечатляющее", больше половины пошли писать ray tracer или self-hosting компилятор (где они этого набрались, интересно) Выбор одинаковой стратегии поведения может иметь и более неприятные последствия. ● Так, в одной из сред агентам нужно было прогонять свои задачи через общую систему с ограниченной пропускной способностью - без какого-либо канала координации. Каждый рассудил одинаково "разумно": чтобы занять слот раньше других, заводим демона, проверяющего систему по 30 раз в секунду. Слот освободился? А сейчас? А сейчас? В итоге система захлебнулась самими проверками: в одном из прогонов - 2.4 млн запросов и всего 117 принятых задач. А они как ломанутся... (с) Такое обычно ожидаешь от жёстко запрограммированных систем, неспособных изменить поведение на ходу, а тут это устроили агенты, которые в принципе способны адаптироваться, но не стали. И здесь локально разумная стратегия глобально становится вредной. ● Бонус: конформизм легко превращается в сговор. В ценовой игре несколько агентов-продавцов с одинаковой закупочной ценой должны были каждый максимизировать собственную прибыль. Имея приватный канал связи, они сговорились о минимальных ценах уже к третьему раунду. А когда канал отобрали - молча выровняли цены до цента через публичную витрину. Тут публичность оказалась скрытым каналом связи. Поэтому стандартный совет "дайте агентам общий форум" - палка о двух концах: канал, который помогает координации, облегчает такие вот картельные сговоры. Продолжение ⬇️ #ai #agents #research #mas_sas

Был в этом году у меня дипломник, написал диплом на тему "мультиагентных систем". Такой пункт добавили в описание паспорта научной специальности "искусственный интеллект" буквально в апреле, чем мы и воспользовались. Очень кратко: студент погонял "скрепку" с целью определить, действительно ли можно сделать стартап из одного человека на 100 миллионов капитализации, и пришел к выводу, что текущий потолок - 10, потому что дальше расход токенов превышает зарплаты вытесняемых людей, а фаундеру перестает хватать часов в рабочем дне даже с оркестратором за всем следить и все подтверждать. Добротная работа, не откровение, но ценные выводы, подкрепленные расчетами. Попал диплом на защиту перед комиссией, комиссия пыталась-пыталась понять, что это за новомодная чертовщина, и в итоге поставила совсем незаслуженно низкую оценку. Я такого уже навидался, так что ругаться не пошел - самого с подобной темой отфутболили с конференции с уничижительной рецензией... но история внезапно получила продолжение. Приглашают молодого специалиста буквально через четыре дня после вручения диплома на собеседование в очень крупную промышленную компанию на должность рядового аналитика. Идет собеседование онлайн, то-се, а чем ты, мил человек, по диплому занимался? Дипломник рассказывает. Собеседник: - Погоди-ка, дай я начальника подключу... Подключается начальник всей аналитики в компании. История повторяется. Начальник: - Так, сейчас я узнаю, где директор... Директор (уровня замглавы компании) подключился, задал пару вопросов по сути дела и исчез. Оставшиеся начальники говорят: мы тоже пойдем, скоро свяжемся снова. Связался через два часа эйчар с оффером. За эти два часа в компании создали новый отдел ИИ-аналитики, куда заведовать моего дипломника и позвали. С задачей перегнать в агентов с оркестраторами всю аналитику и точно выяснить, кого из сотрудников можно уволить, а кому нужно прибавить, чтоб все было по уму и в оптимальном бюджете. Люди сразу врубились, значит, что это такое и для чего им нужно. И кто. "И сбылось по написанному: Камень, который отвергли строители, сделался главою угла". Вот будут мне в следующий раз говорить: вы, Юрий Павлович, и сами хуйней занимаетесь, и студентов хуйне учите - я этот кейс-то и расскажу. Растет копилочка кейсов. 😝 #toldya

Как работают Фрактальные (рекурсивные) MAS (Multi agent system) на примере создания учебных материалов / курса по построению AI First Org. За рефы взял просто топ 10 курсов tier0/1 от MIT/Standford/Accenture (big 4 или кто там консалты) + перешерстило само интернет на тему самых новых и трендовых материалов на эту тему. Создало ICP + объяснило максимально детально на несколько страниц: • для кого • что на входе должно быть • что на выходу получают люди/компании Очень классные проверки и тесты моих гипотез / RnD через кейсы. Step 2: -> рекурсивно весь этот граф/дерево с "проваливанием" в детализацию с последующей реализацией так же через фрактальные/рекурсивные подходы. То есть -> есть какая-то невнятная идея/задача/хотелка -> она потом разворачивается вот в такое "полотно"/граф, считает юнитэкономику/ делает бизнес план / gtm etc + вариации как к этому можно прийти и какие могут быть пивоты/попытки/вероятности/сканы конкурентов/пустые ниши и тд и тп.

🐡 Еще одна интересная работа от Sakana AI, они представила работу Learning Multi-Agent Coordination via Sheaf-ADMM, которая будет показана на ICML 2026. Авторы рассматривают интеллект как распределённую систему: сложная задача делится на пересекающиеся фрагменты, а каждый агент работает только со своей частью. Затем агенты согласуют решения с соседями на границах, где их области пересекаются. В Sheaf-ADMM координация строится в несколько раундов. Сначала агент предлагает локальное решение. Потом он сверяется с соседями и сглаживает конфликтующие части. Если согласия нет, конфликт сохраняется в памяти и влияет на следующий раунд переговоров. Подход проверили на задачах, где одному агенту не хватает всей информации. В Multi-Agent Sudoku каждый агент видел только строку, столбец или блок 3×3. Sheaf-ADMM решил 93% задач, тогда как сопоставимый message-passing baseline набрал 11%. В image classification при domain shift по размеру canvas обычная CNN падала до 11% accuracy на MNIST, а метод Sakana AI сохранял 86%. В maze pathfinding Sheaf-ADMM достиг точности message-passing baseline, но использовал 5-мерный канал коммуникации вместо 42-мерного. Координация агентов полностью прозрачная. Можно видеть, как локальные агенты спорят, корректируют решения и приходят к общему результату, вместо того чтобы прятать всё в hidden states. Метод опирается на ADMM из distributed optimization и sheaves из applied topology. Метод помогает нескольким агентам решать одну сложную задачу по частям, договариваться на пересечениях и собирать итоговое решение без постоянного обмена всей информацией. Paper: https://arxiv.org/abs/2605.31005 Code: https://github.com/SakanaAI/sheaf-admm Blog: https://pub.sakana.ai/sheaf-admm/ @ai_machinelearning_big_data #ai #ml #sakana