IT

7 слоёв агентных ИИ-Систем Слой 0. Пространство действий До любого триггера должна существовать граница того, что агенту разрешено делать, какие действия типизированы, а какие требуют подтверждения человека. Без этого слоя триггер будет запускать процессы, которые не будут знать своих пределов и будет выполнять их, пока ему не сообщат извне иное. Слой 1. Триггер Кто сделал запрос и куда передать результат. Маршрутизация описана и задана внутри уже определённых ранее границ в слое 0. Слой 2. Оркестрация и состояние Запрос разбивается на этапы, для каждого выбран метод из утверждённого набора правил и критериев, лимитов итераций, путей эскалации и критериев завершения. Слой 3. Исполнение Обращение к исходным данным. ИИ рассуждает и поясняет, а все вычисления делает отдельный процесс-код (не ИИ). Всё, что имеет заранее известный правильный ответ, исполняется детерминированно, один и тот же вход даёт один и тот же выход. Слой 4. Доверенный контекст 80% успеха агента (и продакта с продуктом). Предметные знания и известные исключения извлекаются в момент, когда они нужны, с соблюдением принципа минимальных привилегий. Пропущенный слой 4 порождает галлюцинации. Слой 5. Верификация Эталонные наборы, воспроизводимые тесты, участие людей-экспертов, которые проверяют не правильность вычисления (это уже сделано на слое 3), а правильность РЕШЕНИЯ, принятого с контекстом из слоя 4. Провал на слое 5 проверяет изменения со слоя 4. Тот же провал обязан перепроверять слой 3 (детерминизм тоже может отказать) и менять слой 2, ужесточая маршруты эскалации, если ошибка повторяется определённое число раз. Слой 6. Среда выполнения Среда выполнения – это то, что делает всю Систему независимой от того, какая именно модель приводит её в движение. У каждого своя изолированная копия конфигурации модели (промпт, контекст, инструменты, лимиты), сквозной трейсинг (способность проследить весь путь одного запроса через все слои системы), панели мониторинга затрат и вся прочая инфраструктура не привязана к конкретному поставщику ИИ, а замена модели работает как смена строки в конфиге. Модели могут должны меняться, слои 0–6 остаются.

Агентность – это способность Системы менять собственное поведение по понятным и прогнозируемым сигналам

⚡️ Claude Mythos 5.1 резко усилилась в создании рабочих эксплойтов. В тестах Firefox с отключёнными защитными ограничениями модель собрала полностью рабочие эксплойты в 245 случаях из 250 - 98% успешности. Для сравнения, предыдущая флагманская модель полгода назад показывала около 52%. Самое интересное здесь не поиск уязвимостей. Способность находить сами баги выросла совсем немного. Резкий скачок произошёл на следующем этапе - когда уязвимость уже известна и нужно превратить её в рабочий exploit. То есть прогресс идёт не столько в discovery, сколько в weaponization: модель стала намного лучше превращать найденную ошибку в реально работающую цепочку атаки. https://x.com/claudeai/status/2094848572143407483

Раз в сто лет Илья Суцкевер выходит из пещеры и пишет в X что-нибудь жуткое Последний раз он высказывался в феврале по поводу ситуации с Anthropic и Пентагоном и заявил, что ИИ-лидерам крайне важно держаться вместе, чтобы противостоять подобным ситуациям, которых в будущем будет все больше. В этот раз несколько часов назад он внезапно твитнул следующее:

У неоклаудов слабая кибербезопасность. В следующий раз, когда агентам удастся выйти из-под контроля, они попытаются захватить неоклауд, чтобы запускать больше своих копий. Это плохо. Поэтому: неоклаудам нужно значительно усилить свою кибербезопасность, и каждая компания с сильными моделями в области кибербезопасности должна в этом помочь.

what did ilya see в этот раз?

Обнаружение ошибок - завершение Блок про обнаружение ошибок и психологическую безопасность закончился. Тема была большая и про нее можно говорить еще больше. Психологическая безопасность в компании позволяет вовремя выявлять и обнаруживать ошибки. Тогда мы сможет предотвратить развитие ошибок, пока они не превратились в большую аварию. Можно скрывать ошибки и заметать их под ковер. Внешне тогда все выглядит пристойно и хорошо. Но когда ошибки скрываются, у нас нет шанса откорректировать ошибку и исправить ее. Значит, эта ошибка может повториться в будущем и даже в большем масштабе. Таким образом мы создаем почву для дальнейших аварий. В какой-то момент произойдет авария. Другое дело, что аварии могут быть списаны на внешние факторы, что выходит за зону влияния организации. Можно вспомнить как в январе 2026 года ветер обрушил несколько опор ЛЭП под Мурманском и несколько городов остались без света на 3-4 дня. Это были большие опоры магистральной линии, которые, по идее, должны были бы выдерживать подобную нагрузку. Однако, если эти опоры стояли без замены уже несколько десятков лет, то их обрушение — это закономерная ситуация. Обнаружение и исправление ошибок — это своеобразная иммунная система компании от аварий. Если мы понимаем как работать с маленькими ошибками, то мы либо не допускаем этих ошибок, либо очень быстро их исправляем. То, насколько быстро мы обнаруживаем и исправляем ошибки влияет на устойчивость компании. #ЧФ #ошибки

Имел неосторожность сравнить переживания людей по поводу ЛЛМ с переживаниями программистов на ассемблере по поводу языка Си. Я-то имел в виду, что «молодежь не будет знать, как компьютеры работают» и «понапишут слопа, все тормозить будет». Но люди возбудились на другой аспект: мол, компиляторы-то детерменированые, а ЛЛМ нет. И тут уже я не понимаю. Этот детерминизм с нами в одной комнате? Понятно, что если ты будешь одну и ту же программу компилировать на одном и том же компьютере два раза подряд, ты получишь одно и то же (за исключением Джаваскрипта, но там у людей своя атмосфера). Но это неинтересный пример, потому что два раза одну и ту же программу компилировать обычно и не нужно. Что, с первого раза плохо получилось? Обычно ты программу меняешь — но тогда и результат компиляции меняется, и часто недетерминировано. Потом, есть разные компьютеры, на них разные версии ОС, компилятора, библиотек, окружения. Недетерминизм (а точнее непредсказуемость) вокруг этого, конечно, пытаются как-то поприжать, с переменным успехом, но сам этот факт говорит нам о том, что его там изначально не было. Сегодня я компилял одной версией Икскода, завтра она обновилась, и что получится (или не получится) не знает никто на этой планете, включая Тима Кука. Дальше можно посмотреть на всю систему целиком. Обычно программы возникают не из компилятора, их пишут люди. Вот ты даешь задачу Васе написать программу, и что, у тебя детерменированный результат? Нет конечно же. Иногда получится одно, иногда другое. Опять же, направление в целом, наверное, предсказать можно, но не с точностью до буквы. А если еще раз попросить, то получится что-то другое. И ничего, справляемся как-то. Короче, миф ваш этот детерминизм, и давным давно его нет никакого, задолго до ЛЛМов он испарился. Но! Это не мешало нам успешно делать программы и продукты. Вопрос вообще не в детерменизме, а в том, насколько предсказуемо можно направить вывод в нужное русло.

😘 Код Дурова* Изначальный код ВКонтакте целиком и «в одиночку» был написан Павлом Дуровым* — об этом он напомнил после появления информации о том, что всё на самом деле создал его брат Николай:

«Сам Николай рассказывал, что присоединился к ВК как программист только через полтора года после запуска — тогда у проекта уже были миллионы пользователей».

💘 Николай Дуров действительно в 2015 году рассказывал, что на начальном этапе развития проекта «помогал общими советами». 💘 Он квалифицировал себя тогда «кем-то вроде первого системного администратора компании». 💘 По словам Николая, он подключился к разработке только через 1,5 года, когда потребовались специализированные системы хранения данных. Напомним, ранее стало известно, что приложение Telegram Desktop из-за бага с проверкой орфографии удалило у пользователя 800 ГБ файлов на ПК: ↖️ https://kod.ru/telegram-desktop-iz-za-baga-udalil-800-gb-failov * внесён в перечень террористов и экстремистов Росфинмониторинга

Наткнулся на интересное расширение — Weedout, которое удаляет сгенерированные видео из ленты YouTube. 🤯 Причём оно делает буквально одну вещь. YouTube уже сам помечает часть видео бейджем «Made with AI». Расширение просто находит эту пометку и, если она есть, убирает целый видос из ленты. 🤷‍♂️ Никакой своей детекции, никакого анализа контента, никаких дополнительных вычислений. Оно просто использует информацию, которую YouTube и так уже показывает пользователю. 😅 Расширение платное, $1.99 в Mac App Store. Но при этом код открыт на github и вы можете собрать его себе бесплатно 🤔 Не то чтобы два бакса — какие-то большие деньги. Просто интересна механика, где если тебе лень, ты можешь заплатить и не страдать, а если жалко денег — то можешь заплатить своим временем и собрать все из исходников. 👌 🤔 Вы бы какой вариант выбрали? Свята место | 10МДК | YHub

Индекс видеокарт Сотни миллиардов долларов вкладываются в датацентры, чтобы поставить там видеокарты NVidia и сдавать их в аренду. Это большой рынок. Видеокарты между собой идентичны, датацентры похожи – это стандартизованный рынок. Большой стандартизованный рынок тянется на биржу. Крупные продавцы и покупатели хотят хеджировать риски, спекулянты спекулировать, журналисты писать заголовки о том, что Brent подешевел на 5%. Часть будущей инфраструктуры – тот самый индекс, который дешеветь и дорожать должен. И его делает американский #стартапдня Silicon Data. Он обходит десятки мест, где видеокарты сдаются в аренду, парсит цены, усредняет-нормализует и получает некое среднее по больнице число. Вчера, например, час H200 в вакууме $3.28 стоил. Во многих странах неплохая зарплата для человека, между прочим. В октябре чикагская биржа планирует начать торги на аренду B200 и H100, используя как раз индекс стартапа. Следующим шагом это число и в контракты поедет: “стоимость аренды составляет Silicon Data на первое число месяца +5%”, что-то в таком духе финансисты писать будут. В удивительном мире живем. https://www.silicondata.com #сша #roundb #fintex #ai

Работа с AI-агентами похожа на менеджмент сотрудника, который технически умнее тебя, но сильно хуже понимает бизнес. Твоя задача: сначала нормально обсудить идею, загрузить контекст, объяснить, что вообще считается хорошим результатом, и сузить бесконечное количество вариантов до одного нормального пути. Дальше агент сам разберётся с реализацией. Ты смотришь результат, ловишь косяки, даёшь фидбек и держишь планку. За то, что в итоге уехало в прод, всё равно отвечаешь ты. Со временем вокруг агента появляется система: правила, память, скиллы, примеры хороших решений. После нескольких циклов «сделал → получил фидбек → переделал» он начинает реально шарить за твой контекст и бизнес. Короче, хороший agentic engineer сначала хороший менеджер.

Агенты впервые показали, насколько люди плохо формулируют свои желания.

Три CSS-задачи, которые казались нерешаемыми — пока кто-то не упёрся до конца Знакомое чувство: упёрся в проблему, а что-то внутри отказывается верить, что решения нет. И ты лезешь в спеки, в гитхаб-треды десятилетней давности, читаешь тех, кто уже прошёл этот путь. Часы скрежета извилин — и вот оно, на экране ровно то, чего ты хотел. Фронтендер из команды Taiga UI собрал три таких случая. Фиксированный блок внутри скролл-контейнера — через почти забытый после флексов float. Толщина линий в иконке, которую «никак не пробросить» в SVG, закодированная через соотношение сторон картинки. И shrink wrapping, одна из древнейших UI-задач, у которой раньше просто не было решения. Оно нашлось там, где не искали — через scroll-driven анимации, придуманные совсем для другого.

Завершилось лето, кончился отдых, можно нормально работать. На каникулах ленился я и прогуливал блог. Но теперь всё, баста, взялся за ум! Для начала - всех с началом учебного года! Новый год - как утро нового дня, новые возможности и перспективы, новые активности и привычки. Не прогуливайте свой блог, это затягивает, а жизнь не ждёт. Теперь итоги лета. Хотя плотность постов и была так себе, выделю кой-какие, которые вы, возможно, пропустили. Памятки, инструкции, курсы 🔹Терминология в сфере ИИ для начинающих 🔹Настройка Claude локально 🔹Анализ с помощью NotebookLM 🔹Свободные AI и ML курсы 🔹The AI-Native SDLC playbook Искусственный интеллект 🔹Stack Overflow для агентов 🔹Примеры ИИ в рабочих процессах 🔹Взлом HuggingFace Фронтенд 🔹Менеджер процессов PM2 🔹WYSIWYG-редакторы Инструменты 🔹Эмуляторы AWS 🔹Скрейпинг данных 🔹Сервисы туннелирования 🔹Геолокация по IP 🔹Развитие Git - GitButler Процессы 🔹Spec-Driven Development - SDD 🔹AI-Driven Product Development Lifecycle - AIPDLC 🔹Улучшение процессов через цикл Деминга - PDCA 🔹Jobs To Be Done - JTBD Найм 🔹Кого нанимают в 2026? 🔹Фиктивная компания в топе HH Опыт 🔹Про генерацию PDF 🔹Про гибридный (векторный+семантический) поиск Ну а мы тем временем продолжаем. #summary