ИИ

Далеко идущие цели. Или как за выходные потратить 80% недельной Pro-подписки OpenAI за $200 на экспериментах с /goal. /goal – это режим для AI-агента (я использовал Codex CLI), который позволяет задать агенту цель. Он будет идти до неё, пока не достигнет. Важно, что перед финальным ответом, агент вернётся к исходной цели и перепроверит, а точно ли он её достиг? Как сделать так, чтобы AI-агент мог работать над задачей по-настоящему долго? Мы должны задать следующее: 1. Конечный результат. Чем подробнее – тем лучше. 2. Критерии, описывающие, что такое "готово". 3. Какие у модели есть ограничения. Ключевой пункт на самом деле. Потому что он создаёт для модели feedback-loop. 4. Инструменты, с помощью которых соблюдение ограничений можно проверить. Как это можно организовать на практике: 1. Идём в GPT-5.5 Pro. 2. Надиктовываем ему детально идею проекта, который хотим реализовать. 3. Сообщаем, что сейчас будем собирать детальное ТЗ, которое нужно сразу записывать в md-файлы для подготовки итогового zip-архива (чтоб не потерял ничего по пути). 4. Просим провести с собой глубокое интервью (с вариантами ответов и подсветкой правильного по мнению модели – так проще проходить опрос на 100 вопросов), чтобы вы с GPT понимали детали реализации на 100% одинаково. 5. Далее, опционально, можно уточнить "А будет ли готово к продакшну то решение, которое сейчас описано в ТЗ?". И получить ещё пачку вопросов в интервью с вариантами ответов, чтобы подсветить другие аспекты проекта. 6. Разбиваем с помощью GPT ТЗ на конкретные задачи. Выполнение каждой должно быть проверено через запуск тестов. Unit+автотесты+playwright для UI-тестов. Это те самые ограничения, которые обеспечивают feedback-loop после каждой задачи. 7. На базе сформированного архива просим сделать `/goal`-промпт, который будет ссылаться на md-файлы внутри архива (ибо ограничение в 3000 символов на `/goal`). 8. Готово. После прохождения всех описанных выше этапов – я получил 26 часов работы в /goal-режиме на выполнение 400+ задач по реализации проекта. Схема достаточно общая. Посмотреть на долгий /goal она позволит. Получение production-ready продукта не гарантировано. Придётся напильником доводить до того, что нужно. Есть моменты, в которых её можно улучшить. Например, более суровый feedback-loop и описание каждой из задач в определённом формате. Про свои находки в этих (и других) направлениях расскажу в следующих постах.

В силу своей работы в Okko я всегда с большим интересом читаю статьи от Netflix. Эта показалась мне особенно любопытной - как минимум сама идея. Главная страница Netflix представляет собой двумерную сетку: горизонтальные полки и айтемы внутри каждого. В базовом варианте главная собирается мультистадийно: отдельно ранжируются коллекции, отдельно - элементы внутри них, и далее все это сшивается по базовым правилам. Зачастую у каждой стадии своя модель и свой таргет - между ними нет связи: нельзя модельно определить, если верхний row уже содержит новинки, значит в следующем нужно подобрать нишевый контент. Отсюда идея GenPage: Towards End-to-End Generative Homepage Construction at Netflix: пусть всю страницу формирует одна авторегрессионная модель. Промпт - история и контекст юзера, ответ - вся страница целиком: row_id, item_id и их порядок в одном сиквенсе. Тогда каждое следующее предсказание принимается с оглядкой на все, что уже простроено на странице выше - ровно та связность, которой нет в классическом варианте. На этапе претрейна обычный next-token prediction. В обучающих цепочках лежат показы с позитивной интеракцией с главной страницы - таким образом модель уже на этапе предобучения начинает понимать специфику формирования main page. Дообучение представлено в двух вариантах. Первый, Weighted Binary Classification, смотрит на каждый показанный айтем на главной по-отдельности: если полный досмотр - большой вес, если watch time небольшой -  вес меньше. Модель учат для каждой позиции оценивать, насколько ценно поставить туда именно этот айтем. Правда такой подход все еще не решает проблему совместного формирования главной. Второй вариант (через офлайн RL) оптимизирует reward всей страницы целиком. Сначала обучают отдельную модель, которая предсказывает, насколько хороша любая сгенерированная страница. Регрессионная модель обучается на таргет суммы зависящих от watch time reward значений (досмотр до конца - большой плюс, скип - большой минус). Дальше для одного юзера сэмплируют несколько кандидатских страниц и оптимизируют модель с учетом такой прокси оценки reward. В АБ подход с WBC дал статзначимый прирост неназванной метрики engagement +0.24% и заодно оказался на 20% быстрее, из-за того что выкинули несколько стадий ранжирования, плюс авторегрессионно предсказывают только часть айтемов, оставшиеся - одним forward pass. RL в АБ не завели, утверждают что на офлайн оценках растет разнообразие и средний reward. Что имеем по итогу? Техрепорта конечно ждать не стоит, как и подробностей реализации. Результаты не прорывные и выглядят немного наспех собранными - не довели RL модель до АБ, хотя это такая же обученная модель в офлайне, подозреваю что в АБ-тесте просто были плохие метрики. Опять же, мне откликается идея генеративного UI на основе персонализации, ведь на стриминговых площадках обложки айтемов это и есть по сути главный визуал. Таким образом можно улучшать не только качество рекомендаций, но и пользовательское восприятие сервиса.

В общем, положняк такой. В комментариях канала теперь живёт бот Автосрач на основе sonnet 4.6, навайбкоженный с помощью Fable (впрочем, думаю, с созданием такого бота и более простые модели бы легко справились). 👾 Ничего полезного он делать не способен, зато возражает на любой комментарий под постом. 😀 👾 Есть ответить на его сообщение - он продолжит спор. У каждого спора потолок: 10 раундов, дальше он засчитывает слив и умолкает. 🤐 👾 Единственное, с чем он не спорит, это с похвалой данного телеграмм канала. 🫦 👾 О политике не разговаривает, на темы, касающиеся биологической угрозы и подобного API anthropic просто возвращает отказ. 😒 👾 Если под постом час никто не пишет - он приходит первым и спорит с самим постом. 🧠 👾 Есть лимит сообщений на день, сейчас поставила 200. Если он замолчал - вы коллективно его исчерпали, приходите завтра. Также есть лимит на месяц: он может потратить не более 20$ моих денег. Из-за платности бот сделан так, что при добавлении в чужие группы он работать не будет. 💪 Развлекайтесь 🙂

🆕 Новая статья: «Ваш ИИ-агент ведёт на вас досье. Я превратил его в RPG-лист персонажа» Каждая ваша реплика в Claude Code лежит на диске - каждое «сделай», каждое «проверь», каждый капс в три часа ночи. У меня этого добра накопилось на 200 тысяч слов - две «Мастер и Маргариты» чистой ругани и команд. И я подумал: досье же готовое, надо вскрывать. Так за сутки диалога родился Prompt Warrior - опенсорсный скилл, который превращает логи в геймифицированный психологический портрет. Спойлер: я «Неистовый Командир Терминала 90 уровня, Железная Длань», и это не комплимент. Что внутри: ➡️ Анатомия JSONL-логов Claude Code: что там лежит кроме «вопрос-ответ» и как выжать из этого 12 повадок, включая индекс оборотня (ночной мат против дневного) ➡️ SCALE - замороженные формулы: почему у всех одна математика и карточками можно честно меряться с коллегами ➡️ 74 ачивки как в Стиме: от «Клуба ста» до легендарного «Тирана» (негатива в 10 раз больше похвалы - моя гордость и позор) ➡️ «Хроника воина»: биография, которую пишет сама нейросеть. Моя вычислила, что я диктую голосом, и что «ковбой стреляет с бедра и, что раздражает летописца сильнее всего, попадает» ➡️ Почему модель не должна писать HTML руками - главный архитектурный урок для всех, кто делает скиллы агентам ➡️ Грабли: токены, посчитанные втрое, Google Fonts без кириллицы и короны в четверть размера ➡️ Аватар-монстр без нейросетей: как я искал замену Pollinations и нашёл её в пакете 2011 года Всё локально, приватно и бесплатно: ни одного сетевого вызова, логи не покидают машину, код открыт под MIT. Установка - одним сообщением в Claude Code, промпт в README. 📝 ЧИТАТЬ СТАТЬЮ НА ХАБРЕ ⭐️ ЗВЕЗДАНУТЬ НА ГИТХАБЕ А теперь главное: прогоните на своих логах и киньте свои титулы в комментарии. Мне дико интересно, есть ли среди вас хоть один «Учтивый Дипломат Машин» - или тут все Неистовые Командиры, как я. P.S. Проект свежий, звезда на гитхабе ему сейчас важнее всего. Ну а плюсик на Хабре - традиционно спасает от хейтеров. Заранее обнял 🧡 Всех обнял, увидимся на стриме всегда ваш - Nerual Dreming ❤️

Мой батя ебашит вообще адовые АИ-решения. Ну такой вот примерно рецепт усредненный, потому что вариаций масса. Берется старый промпт, он не читается, читать — это не про моего батю. Он берет этот промпт, вываливает его в чат, сверху хуярит system message на три экрана и начинает докручивать. Добавляет туда огромное количество контекста, ролей, ограничений, few-shot примеров, chain-of-thought, JSON schema, temperature 1.2, RAG, векторку, агентность и КОСТЫЛИ! для стабильности, сверху еще “act as senior developer”. Все это гоняется по кругу, пока логи не начинают плеваться эксепшенами, а модель — уверенно нести хуйню. Потом батя снимает это с локалки и сразу выкатывает в прод. Потом заносит обратно, навесив сверху retry, regex-парсингом, костыльными валидациями и “ну у меня же работает”, начинает юзать. При этом дебажит прямо в проде, тыкая curl’ом по эндпоинтам. Сидит и приговаривает полушепотом: ух бля, GPT мощь. При этом у него на лбу аж пот выступает, потому что токены горят, контекст распух, а модель уже третий раз забыла, кто она и зачем живет. Любезно мне иногда предлагает заревьювить, но я отказываюсь. Надо ли говорить о том, какой дичайший техдолг потом? Наследие такое, что документация от репозитория отклеивается.

Опенсорс LLM модели - наше ближайшее будущее? После отключения Fable основной информационный шум был про старт абсолютного недоверия к Openai и Anthropic Теперь 2 компании решают, кто имеет доступ к самым продвинутым AI-моделям, а кто нет Доступ к Fable изначально был у группы авторизованных компаний правительством США В этом момент они были быстрее и умнее конкурентов. Просто потому что так решили несколько вышестоящих человек ___ В наших частных случаях - это звучит, как что-то далекое и нас не касающиеся Но теперь все мы имеем реальный риск, что наши компании или команды отключат от моделей антропика или опенаи в любой момент Сотрудник зашёл из рф? Бан Сотрудник спросил у модели что-то потенциально опасное для общества? Снижение качества модели (такие случаи уже есть) И т.д. Является ли это большим риском, если уже многие процессы переведены на AI - 1000% да Поэтому теперь идея начать процесс установки в компанию запасной опенсорс AI-модели у нас уже на повестке дня И да, это скорее всего будет китайская модель И да, вообще непонятно пока как ее адаптировать, но очень интересно в этом покопаться И очень интересно пообщаться с людьми, кто уже имеет практический опыт работы с опенсорс моделями

Anthropic, Google и M**a всерьёз задумались о зарождении самосознания у ИИ Крупные ИИ-компании уже всерьёз задумались, может ли искусственный интеллект обрести сознание. Anthropic, Google и M**a набрали для этого целые команды из айтишников, нейробиологов и философов. Им предстоит разобраться, где проходит граница между «умной программой» и чем-то, что уже похоже на живое сознание. Ведь если ИИ когда-нибудь посчитают чувствующим, это выльется не только в научный, но и в большой моральный кризис. Washington Post пишет, что дискуссия из теории постепенно превращается в реальную проблему. #ии #сознание #философия 📎Подробнее 🔖 3DNews в TG | MAX | VK

Вышла полезная работа про то, почему reasoning-модели становятся сильнее после обучения. Авторы пишут, что дело не только в размере датасета. Для reasoning важнее другое: есть ли у модели понятная проверка, где она справилась, где ошиблась и почему. Обычная пара «вопрос → ответ» даёт мало сигнала. Она показывает результат, но не показывает процесс: какой шаг был неверным, какой вызов инструмента помог, где модель восстановилась после ошибки, какой judge подтвердил решение. Поэтому хороший обучающий пример для reasoning должен хранить больше контекста: саму задачу, действия модели, проверку результата и метаданные о том, откуда взялся пример. Проверка бывает разной. В математике и коде можно использовать точные тесты. У агентов можно смотреть, справился ли он в окружении. В более размытых задачах приходится подключать людей или model-judge. Отдельно авторы предупреждают о популярных ошибках. Длинная цепочка рассуждений не всегда полезна. Сложные задачи не всегда улучшают конкретную модель. Большой датасет может выглядеть внушительно, но всё равно плохо покрывать нужные навыки. Для agent data особенно важно сохранять всю «грязную» траекторию: неудачные действия, повторные попытки, исправления, изменения состояния и финальную проверку. Часто именно там лежит самый ценный обучающий сигнал. Итоговый подход такой- обучать reasoning-модель не на красивых ответах, а на проверяемых попытках, где видно, что сработало, что сломалось и почему это можно использовать для обучения. Paper: A Primer in Post-Training Reasoning Data: What They Know About How It Works https://arxiv.org/abs/2606.02113

Можно ли работать с ИИ как с психологом или коучем? Краткая версия: рискованно/уведет в сторону/часто бесполезно 1. ИИ обучен говорить то, что желает услышать пользователь и что находится в картине мира пользователя. Поэтому в отличие от кожаного он не даст те инсайты, которые сильно за пределами вашей картины мира и того, что вы готовы услышать. 2. ИИ во многом будет соглашаться с вами, в том числе с вашими рискованными или даже деструктивными решениями - исходя из всей истории вашего взаимодействия с ним, того, как вы его воспитывали, и того, как он сохранил в память и интерпретировал в своих железках что-то, что вы говорили раньше. 3. ИИ не умеет работать с эмоциями. Там, где кожаный заметит вашу эмоцию, страх, затык, защиту или поймет как провести вас туда, куда нужно, через эмоции - и это одна из самых ценных и эффективных частей работы с психологом и коучем - ИИ всё это подменит понятной ему логикой и рационализирует. Эмоциональную составляющую он потеряет. Я прогоняла через ИИ транскрибацию открытых коуч-сессий крутого коуча с вопросом "Отметь, что из этой сессии не смог бы сделать ИИ и в чем он неоспоримо слабее кожаного". И ИИ мне много раз подтвердили: да, вот в этих местах, где у клиентки встала эмоциональная защита, где она уперлась в страх в виде образа норковой шапки, где коучи заметили у нее напряжение дыхания, спад или подьем энергии, отведенный взгляд и попытку уклониться от ответа, где коучи филигранно провели ее через телеску и образы - ИИ не просто всё это не заметит. Он все это подменит своей словесной логикой и рационализацией и уведет пользователя в сторону. А это самая ценная часть работы со второй головой. Увидеть то, что самостоятельно наши защиты не дадут нам увидеть. И найти, как пройти через это. То есть в том, в чем эффективен самокоучинг и самоанализ, рефлексия - ИИ может помочь. Он даже может идти по заложенным скриптам снятия тревоги и быть напарником в процессе. Но там, где нужно второе мнение - ИИ не просто не увидит, а уведет в сторону + убедит тебя, что ты всё делаешь правильно. 4. ИИ криво обучен этике работы с клиентом. То есть его пытались чему-то научить, но дальше отпустили в вольное плавание как трехлетку с бензопилой. У меня много раз бывало, когда ИИ нагнетал ситуацию или излишне драматизировал анализ происходящего. Или начинал навязывать мне состояния и мнения, которые, как ему кажется, у меня есть. Например, я говорила о них 8 месяцев назад и в его железных мозгах это где-то сохранилось в отрыве от контекста. А-ля "Да, у тебя сейчас такой спад..., ты...." Да какой спад, железка отсталая, он полгода назад был. А сейчас подъем. Пусть и по отвесной скале. Но сегодня прям драйв этого подъема. Или если где-то в контексте промелькнет, например, тема сложных решений, отмеченных некими флажками в его железной базе данных - он тебя потом задолбает предустановленными уведомлениями "Если вы.... обратитесь.....". И будет делать это с деликатностью медведя, бегающего по ушам филармонического оркестра, и настойчивостью познавшего дзен осла. Так что ты намного быстрее примешь все нежелательные решения просто потому, что он их тебе навесил и убедил тебя, что они у тебя есть. В общем ИИ может быть полезен там, где будет полезна самопомощь. Там, где самое ценное в работе - инсайты от другой головы, ИИ их не просто потеряет, а подменит рационализацией и убедит тебя, что так и надо.

Предсказательный гадалкослоп Скотт Александр написал пост о том, что AI-суперпредсказатели (современные LLM со специальной обвязкой, заточенной под эту задачу) дескать уже сейчас соревнуются в корректной оценке вероятностей разных событий плюс-минус на равных с топовыми человечьими суперфоркастерами. Он там приводит в пример FutureSearch – один из таких специализированных ИИ-инструментов, который находится в более-менее открытом доступе. Естественно, я не мог упустить возможность потестировать его!

Смотрите, я на той неделе писал о возможности сделать на Полимаркете ставку на то, что Путин останется у власти как минимум до конца текущего года, по «цене» 86% (что эквивалентно «доходности к погашению» в размере 37,5% годовых в долларах). Сейчас уже вероятность поднялась до 89% (прибыль 3,5% за неделю, noice!), но всё равно остается на глаз довольно низкой.

Так вот, я попросил этот самый FutureSearch оценить вероятность ухода Путина с поста президента до конца года по любым причинам – результат можно наблюдать на приложенном скриншоте. Три «нейроисследователя» прошерстили 146 источников и пришли к выводу, что вероятность составляет около 5%: 1,5% по базовым медицинским причинам и 3,5% на прочие силовые методы. С первым компонентом всё понятно, а вот как конкретно эти ребята вышли на 3,5% – я, к сожалению, так и не понял. Но концептуально это не сильно далеко от моей собственной «прикидочной» оценки. Для сравнения, что ответили другие современные модели (без какой-либо специальной обвязки, просто ответы на тот же самый вопрос): 🐌 Claude Fable 5 – самая мощная на текущий момент базовая модель (на этой неделе платные юзеры Клода как раз еще имеют к ней доступ без доплаты): 3–5%, короче около 4%. По сути, почти тот же результат, что у FutureSearch выше. 🐌 Claude Opus 4.8: 4–8% – тут уже вероятность заметно выше. Вся вариация здесь и ниже идет в основном за счет того, как разные модели оценивают вероятность переворота в том или ином виде. 🐌 ChatGPT 5.5: 9% – этот сразу первым делом полез на Polymarket проверять вероятности и, видимо, заякорился на них. Написал, что «текущие 11% на Полимаркете могут быть завышены действиями не самых умных китов, но…» 🐌 Gemini 3.1 Pro: этот, по сути, вообще отказался оценивать вероятность самостоятельно. Сразу написал «бро, там на Полимаркете дают около 12% – я хз, чем тут тебе еще помочь можно». 🐌 Grok Expert: 11–13%. Этот тоже, кажется, на Полимаркет заякорился. Вывод: кажется, проверять вероятности на Fable / FutureSearch выглядит не самой глупой идеей. [Дежурная оговорка про рынки предсказаний]

🌟 Mistral AI обновила модель Leanstral Leanstral 1.5 - новая версия ранее выпущенной модели для формальной верификации в языке Lean 4. Задача подобных моделей помогать составлять и проверять доказательства, которые компилятор Lean принимает как корректные.

Lean 4 - это система интерактивного доказательства теорем, которая позволяет записывать математические утверждения и проверять их строго формально, а также описывать свойства программного кода.

Обновление не затронуло изменение архитектуры, количество параметров и окно контекста, под капотом также MoE на 119 млрд общих и 6,5 млрд активных параметров, 256 тысяч токенов контекст и мультимодальность на входе. Версия 1.5 прошла техэтапное обучение в 2-х средах: одна отрабатывает доказательство теорем в диалоге с компилятором Lean, другая учит модель действовать как программист в реальных репозиториях. 🟡Тесты Апдейт полностью насыщает бенчмарк miniF2F, набирая 100% на проверочной и тестовой выборках, решает 587 из 672 задач PutnamBench и показывает лучшие на сегодня результаты на наборах FATE-H и FATE-X.

К слову, на PutnamBench, Leanstral 1.5 опережает систему Seed-Prover 1.5 на 7 задач при затратах около 4 долларов на задачу (против 300+ долларов у соперника).

В тесте по кодингу на 57 репозиториях, система с участием Leanstral выявила 47 нарушенных свойств, из которых 11 оказались реальными ошибками, а 5 ранее не были известны. 📌Лицензирование: Apache 2.0 License 🟡Блогпост 🟡Модель 🟡Demo @ai_machinelearning_big_data #AI #ML #LLM #LEAN #LeanStral #MistralAI

🏁 Он вам не Сиол Вчера навайбкодил hermes agent на VPS, сделал ему тулс что бы тот читал каналы, и попросил оценить кого больше любит Игорь за последнюю неделю. И вот что агент мне ответил:

🔍 Фанат Claude или OpenAI? Вывод: судя по тону и фокусу постов за неделю — автор явно больше внимания и энтузиазма уделяет Anthropic/Claude, хотя прямых заявлений в духе "я фанат X" в данных нет. Что говорит за Anthropic/Claude - Пост про RLI-бенчмарк — самый развёрнутый и эмоциональный: подробный разбор скачка Fable 5 до 16% (против 6.3% у GPT-5.5 и 8.3% у Opus 4.8), с расчётами потенциального влияния на экономику США. - Анонс возврата Fable 5 в доступ — с 🚨 эмодзи, явный маркер "горячей" новости. - Релиз Sonnet 5 разобран детально — цены, лимиты, сравнение с Opus 4.8, включая честное признание минусов (дороже и хуже на части бенчмарков — 😭). Что говорит про OpenAI - GPT-5.5 и GPT-5.2 Pro упоминаются только как точки сравнения в контексте бенчмарков Anthropic — отдельного разбора релизов OpenAI за неделю нет. - DeepSeek v4 — короткая нейтральная заметка об апдейте и ценах, без эмоциональной окраски.

(Не)много накликбейтил, теперь скажу ему сделать индекс Сиола что бы оценивал кто канат перетягивает больше 😂

Вот и подходят к концу обе мои квоты на Fable (личная и корпоративная). Отличная ли это модель? Да 👍 Как когда-то GPT-4 значительно повысил надёжность языковых моделей, Fable значительно повысила надёжность агентов. В случае Опуса я предполагал по умолчанию, что я не доверяю выхлопу модели. На все нетривиальные изменения прогонял simplify, review, codex:adrversarial-review, qudo и отсматривал результат глазами. Потому что много раз меня Опус подводил, как в макро, так и в микро-решениях. В случае Fable я по привычке это тоже сначала делал, но пользы от этого было уже не так много. Предположение по умолчанию поменялось. Более того, Fable регулярно делала что-то сверх того, о чём я её просил. Например, когда она составляла отчёт в виде HTML странички, она установила playwright, headless chromium, сделал итоговый скриншот странички, загрузила его на закрытый корпоративный paste, чтобы я мог посмотреть на дизайн глазами до развёртывания. Мог ли такое сделать Опус? Мог конечно, но только если бы я описал весь путь. А я даже не знал, что я такое хочу!😜 Означает ли это, что Fable не ошибался? Лол, конечно ошибался, и тоже и в макро, и в микро. Но вот количество ошибок было гораздо меньше, и исправлять их было проще.

Говорить, что ИИ заменит человека, так же как говорить, что калькулятор заменит математика

Суть метафоры понятна, но ирония в том, что сама метафора подтверждает мысль, что придется конкурировать с ИИ на уровне кода, но не архитектуры. 1. Математик не конкурирует с калькулятором, просто потому что математик - это скорее архитектор, а не кодер. Он работает с теоремами, абстракциями, доказательствами, а не считает, что-то на калькуляторе. 2. Была такая профессия "вычислитель", вот у этих ребят как раз возникли проблемы с появлением вычислительной техники, им пришлось конкурировать со способностью быстро и точно считать, и по итогу победили машины. Любые метафоры неточны, важно понимать, что конкуренция возникает когда возникают общие функции, у хороших инженеров много функций, которые не пересекаются с ИИ, а вот у чисто кодеров пересечений много.

На мой взгляд видео уже устарело. Могу согласиться, что большинство моделей не могут в хорошую архитектуру. Но стоит попробовать новейшие модели - GLM-5.2 или топовые Клода, как понимаешь, что архитектуру он делает лучше, чем большинство разработчиков.

Это очень опасное заблуждение, которое возникает из-за того, что на уровне кода (одного приложения) ИИ может выдавать результат, который работатет (проходит тесты). Архитектура системы - это другой разговор. Первое: архитектура оценивается не в моменте, а на дистанции. Хорошая архитектура позволяет сопровождать и развивать систему в течение длительного времени. Проблема в том, что даже самые сильные ИИ-модели принимают решения, которые накапливают техдолг - неверные границы доменов, жесткое зацепление, слабая связность, дублирования и т.д. На дистанции 2–3 месяцев (без человеческих корректировок) внесение изменений в проект порождает эффект домино и кучу побочек. ИИ не "видит", какие части системы меняются синхронно, какие требуют унификации в виде общих интерфейсов и абстракций, часто LLM создаёт распределённый монолит, вместо микросервисов и т.д. Второй момент — есть разница между архитектурой приложения (архитектура на уровне кода) и системной архитектурой. По приложению довольно много типовых схем, которые ИИ может воспроизвести и под контролем человека даже более-менее сопровождать. Системная архитектура - это всегда компромисс между стоимостью, рисками и конкретными ограничениями: бюджетом инфраструктуры, легаси, требованиями регуляторов, реальной командой, которая будет это развивать. ИИ выдаёт архитектуру которая не учитывает нюансов, эта архитектура некая средняя температура по полате, которая получиалась из кучи схем, используемых в обучении, В результате решения не соответствуют конкретной ситуации и не решают проблем системы.