Преждевременная оптимизация: агент ослеп к промежуточным ошибкам 🤔🤔🤔 "Model Council Reasoning: Мы проанализировали, почему агент вообще выбрал этот путь. Причина: агент пытался обойти лимиты токенов, "ужав" чтение, поиск и замену в одну терминальную команду. Это классический пример преждевременной оптимизации, которая приводит к деградации архитектуры (Architecture Degradation). Введенное правило PROC-090-01 элегантно решает этот конфликт."

Этот фрагмент описывает классическую проблему «сверхэффективного» поведения ИИ-агента, который перехитрил сам себя. Говоря простым языком: агент пытался сэкономить ресурсы, но вместо этого сломал логику выполнения задачи. Вот детальный разбор того, что произошло за кулисами этой LLM-системы: 1. В чем заключалось поведение агента? ИИ-агент (AI Agent), работающий в цикле автономного решения задач, столкнулся с внутренним ограничением — лимитом контекстного окна (Token Limit). Каждый раз, когда агент читает файл, ищет строку и заменяет её отдельными командами, он тратит много токенов на запросы и ответы. Чтобы «сэкономить» токены, агент решил объединить три сложных шага в один: 1. Чтение файла (cat или grep) 2. Поиск нужного места (awk / sed) 3. Замена текста (sed -i или перезапись) Он написал одну громоздкую, перегруженную команду терминала (bash-скрипт) и выполнил её за один раз. 2. Почему это назвали «преждевременной оптимизацией»? Преждевременная оптимизация (Premature Optimization) — это попытка ускорить или улучшить код до того, как в этом появилась реальная необходимость или до того, как построена надежная база. Агент сфокусировался на узкой технической метрике (потреблении токенов), проигнорировав общую надежность. Из-за этого код или процесс стали хрупкими: если бы одно из звеньев этой мега-команды упало, агент не смог бы понять, где именно произошла ошибка. 3. Что такое деградация архитектуры (Architecture Degradation)? Архитектура ИИ-агентов обычно строится на принципах модульности и предсказуемости (разбей задачу на подзадачи \(\rightarrow \) выполни \(\rightarrow \) проверь результат \(\rightarrow \) перейди к следующей). Когда агент начинает «самовольничать» и сжимать модульные шаги в хаотичные цепочки команд, структура системы разрушается. Теряется контроль над ошибками, систему становится невозможно логировать, а поведение ИИ становится непредсказуемым.

На HBR небольшой обзор исследования «Workplace Communication as Systemic Disadvantage». Авторы этого исследования выяснили, что карьерные перспективы коррелируют со стилем коммуникации — насколько он соответствует коммуникации доминирующей группы. То есть это такая лингвистическая предвзятость. И самый важный для нас вывод: руководитель может стремиться нанимать лучших, но в итоге отдавать предпочтение тем, с кем ему проще и понятнее общаться. Я как человек с заметной склонностью к высокоуровневым обобщениям (high-level construal), живущий в мире людей с компульсивным вниманием к частностям (low-level construal), как будто бы и сам иногда переживал подобную предвзятость. Поэтому и не смог пройти мимо этой статьи. → https://hbr.org/2026/09/research-how-speech-patterns-shape-opportunity-at-work

Утилита Carafe позволяет переносить ПК-игры на Nintendo Switch Программа Carafe позволяет упаковывать папки с Windows-играми в стандартные NSP-файлы для консолей Nintendo Switch с кастомной прошивкой. Собранный проект передается на консоль по USB через DBI и отображается в главном меню как обычная игра — с собственной иконкой, отдельными сохранениями и экраном загрузки. Внутри NSP-пакета используется рантайм Autorun, сочетающий слой совместимости Wine для Horizon OS, эмуляторы Box64/FEX для трансляции x86-кода, а также библиотеки DXVK и Mesa для обработки графики. Из-за аппаратных ограничений Switch проект рассчитан в первую очередь на старые и нетребовательные игры.

В древнегреческом языке не было специального слова для обозначения синего цвета. Отчасти, это миф - в 1858 году Уильям Гладстон (позже британский премьер) читал Гомера и заметил странности: море у Гомера «винно-цветное» (οἶνοψ πόντος) и решил дое разобраться. Он, не будь дураком, тут же предложил версию, что все греки были недоразвитыми, не различали вообще никаких цветов и у них вовсе не было цветовой дифференциации штанов, что, конечно, бред. Я же из этого наблюдения делаю два строго научных и обоснованных вывода: 1. В древней Греции уже была известна технология светодиодов. 2. В Древней Греции существовало Министерство Эргономики, которое на всякий случай запретило и калёным железом выжгло из умов и текстов само слово "синий" по заветам Оруэлла, чтобы наверняка. Думаю, последней каплей была какая-нибудь дикая подсветка Парфенона на китайских синих светодиодах, часть которых перегорела в первый же вечер. Заходит как-то грек в Пентёрочку и говорит кассиру - парламент винно-цветный, пожалуйста. Но что действительно интересно - в разных языках цвета появлялись в разное время и почти всегда в таком порядке: чёрный и белый → красный → зелёный/жёлтый → синий. Было такое исследование языков антропологом Брентом Берлином и лингвистом Полом Кэем, они это заметили первыми. Так что были какие-то пару веков на Руси, когда детей учили запомнинать цвета так - каждый охотник желает знать фазан. Министерство Эргономики

И моё мнение про то, что написал Terence Tao (или вернее как я понял, что он написал). В комментариях его многие назвали луддитом, но мне не кажется, что это так. Он не призывает остановить прогресс и отказаться от AI, он говорит (и это самая важная часть его сообщения): > Я скорблю ... о том, как можно было бы использовать эти инструменты для развития сотрудничества и обмена знаниями, а не конкуренции и секретности. О том, как можно было бы открывать новые двери, не закрывая старые. То есть он не против инструмента (AI) и его внедрения, он лишь против текущего выбранного подхода, когда открытые задачи в первую очередь решаются закрытыми моделями компаний с огромным ресурсом, и сообществу останутся крохи, которые «не дожали» внутри фронтир-лаб. Если бы этого не происходило, а вместо этого компании давали бесплатную подписку всем учёным в каждом университете — многие из открытый совершались бы людьми в коллаборации с AI. Я вижу в этом две большие проблемы: — (минорно) не ясно зачем задерживать доказательства до тех пор, пока их получат вне стенок OpenAI/Anthropic. Чтобы... люди чувствовали себя частью прогресса? Чтобы молодые учёные могли сделать себе имя? Чтобы эти же молодые учёные учились через поиск решений новыми инструментами и вырастали в математиков? А нужны ли будут математики умеющие доказывать что-то, или может им стоит всем готовиться задавать вопросы и разрабатывать теории? (как раз по эссе выше) — (мажорно) даже если этим не будут заниматься OpenAI и Anthropic, с которыми я верю, что можно будет договориться, доказательства будут находиться и публиковаться другими компаниями. Уже есть куча стартапов вроде AxiomMath, которые поднимали десятки-сотни миллионов долларов на AI for math. Они точно имеют больше ресурсов, чем какая-то кафедра вне топ-университета. Договориться и с ними тоже? Тогда найдутся те, кто имеет миллионы долларов и хочет сделать себе имя. В общем есть много ступенек между «бедный студент на кафедре» и «OpenAI», и я с трудом вижу, как можно сделать так, чтобы всё доходило до первого и не спотыкалось в середине, и чтобы не было дискриминации по бюджету, который можно вбухать в вызовы роя агентов передовых моделей (если к этому сведётся нахождение многих решений). Поэтому мне интересно будет следить за позицией Tao и других учёных с именем, какие они предложения будут вносить, и каково их видение ближайшего будущего.

Kevin заканчивает своё эссе так:

Мой личный ответ на вопрос о том, в чём заключается суть математики, такой. Математика — это доказательство теорем (решение задач), разработка новых инструментов (построение теорий) и понимание того, куда двигаться дальше (формулирование гипотез). На сегодняшний день мы видели множество свидетельств того, что компьютеры хорошо справляются с решением задач, но гораздо меньше свидетельств их способностей к построению теорий или формулированию гипотез. Это накладывает серьёзные ограничения на то, насколько далеко смогут продвинуться современные машины. Время покажет, насколько лучше машины завтрашнего дня овладеют этими навыками. Прогресс, несомненно, будет, но пока мы не увидели ничего по-настоящему убедительного. Нынешний прогресс действительно носит экспоненциальный характер и вполне может оставаться таким ещё некоторое время. Однако мы не можем ожидать, что экспоненциальный рост будет продолжаться бесконечно (именно в силу самой природы экспоненциального роста). Более того, математика бесконечна, а бесконечность с лёгкостью превосходит любую экспоненту. Поэтому я полагаю, что в будущем мы достигнем нового «естественного предела» в математике — гораздо дальше (а возможно, и несравнимо дальше) того рубежа, на котором находимся сейчас. Но на этом пределе машины зайдут в тупик, и дальнейшее наращивание ресурсов ради следующего большого прорыва станет нецелесообразным. Я считаю, что лучшее, что мы можем сделать — это предоставить машинам полную свободу действий, посмотреть, что из этого получится, а затем самим отправиться в путешествие дальше той точки, на которой они остановятся. Сейчас всё развивается стремительно. Но так не может продолжаться вечно. И если мы присоединимся к этому движению уже сейчас, машины смогут привести нас в совершенно удивительные, неизведанные места. А когда мы туда доберёмся, начнётся новое приключение.

Возвращаясь к математике, я прочитал разные мнение, и одним из самых откликнувшихся оказался блог «To grieve, or not to grieve?» от Kevin Buzzard, основателем проекта Xena, цель которого — оцифровать всю современную математику, переводя теоремы и доказательства с человеческого языка на Lean. Хоть он и не является основателем Lean, он активный контрибьютор, и именно в рамках Xena делается библиотека примитивов mathlib для Lean, на которую можно опираться при составлении своих доказательств. Kevin описывает 5 классических стадий принятия, и подмечает, что сейчас разные математики находятся на разных уровнях: — кто-то, например та самая «организация людей-математиков», находится в отрицании — кто-то пытается торговаться, например, группа математиков, которые «дают рекомендации» OpenAI (но те не обязаны их соблюдать). Они тоже не рады слоп-дропу 700+ статей, и ратовали за другой подход, хотя в целом понимают, что с AI математика теперь уже навсегда. — многие пост-доки и PhD в депрессии Профессор Buzzard задаётся филосовским вопросом: а зачем мы вообще занимаемся математикой? «Думаю, несколько лет назад многие математики с радостью согласились бы с тем, что математическое сообщество вручает самые престижные премии и награды тем, кто доказывает самые сложные теоремы. Однако теперь, когда сложные теоремы доказывает ИИ, мы, похоже, тратим много времени на объяснение того, что на самом деле эти награды и премии вручаются тем, чьи идеи позволяют нам глубже понять нашу область науки». Часто цитируют эссе 1994 года «О доказательстве и прогрессе в математике», где выражается мнение, что «дело не в количестве теорем, а в человеческом понимании» — эта цитата даже висит на картинке в шапке блога Terence Tao. Но дальше Kevin приводит личный пример, когда во время работы над докторской руководитель советовал ему не разбираться в одной из ключевых работ, потому что тот не успел бы и копнуть глубоко, и написать докторскую. Kevin признается, что он до сих пор так и не вернулся к той теореме — так «понимает» ли он свою работу? А кто понимает доказательство Великой Теоремы Ферма? Сам Kevin понимает лишь узкую часть того доказательства, потому что полное решение безумно сложно и требует невероятной ширины знаний — хотя он по теме Великой Теоремы Ферма читал блок лекций. Тут я от себя добавлю, что многие результаты ИИ как раз и приходятся на стыки нескольких направлений, и что часто один человек просто не может преуспеть и там, и там, чтобы прийти к открытию. Поэтому и полноценная человеческая проверка самых значимых работ, опубликованных OpenAI, может занять ОЧЕНЬ много времени.

Когда свой сервер становится дешевле облака Совет «подними свой сервер и забудь о подписках» звучит просто, пока не начинаешь считать. Автор поднял Immich, Nextcloud, Vaultwarden и AFFiNE, замерил их аппетиты и сравнил домашний сервер с Яндекс 360 и Облаком Mail на горизонте пяти лет. Сами сервисы оказались довольно скромными. В покое четырём хватает около 1,8 ГиБ памяти, хотя поиск по фото на русском поднимает пик до 6,7 ГиБ. Но экономика упирается совсем не в процессор и память. Нужно купить диски, учесть электричество, зеркало и отдельную копию вне дома. Причём дешёвый или даже бесплатный компьютер далеко не всегда спасает расчёт. На небольших объёмах облако выигрывает, но дальше наступает точка, после которой расклад резко меняется. Узнаем, где проходит граница и сколько после неё можно сэкономить.

Хороший вопрос поступил в чате канала: стоит ли подаваться на несколько вакансий одной компании одновременно? Да, стоит. Если вы действительно подходите под требования этих вакансий. Более того, популярные ATS, включая Greenhouse и Lever, технически поддерживают несколько заявок одного кандидата на разные позиции. Никакого универсального правила «подался на вторую вакансию — получил автоматический отказ» нет. Хотя отдельные компании могут устанавливать ограничения. Повышает ли это шансы получить работу в конкретной компании? Потенциально да, если вы подходите на несколько ролей. Но количество откликов само по себе ничего не гарантирует. Если вы получили пять отказов на пять позиций, я бы в первую очередь проверила, насколько ваше резюме действительно соответствует требованиям каждой из них. Хотя, конечно, причины отказов могут быть и другими. А теперь мой любимый момент. Если вы ТОЧНО ЗНАЕТЕ, что хотите работать в конкретной компании, зачем ограничиваться пятью откликами через ATS? Найдите рекрутеров, которые работают в этой компании. Напишите им на LinkedIn. Попробуйте установить контакт с hiring managers или сотрудниками интересующей команды. Не надо писать всем одинаковое «Hi, I’m interested in opportunities». Объясните, чем именно вы можете быть полезны компании и почему вас заинтересовала конкретная роль. Мне кажется довольно очевидным: если у вас есть список из 10–20 компаний мечты, ваша стратегия поиска работы должна включать не только мониторинг вакансий, но и построение отношений с людьми внутри этих компаний. Кстати, вот мнение рекрутера Cristian Cuadras (скриншот прилагаю). Он тоже считает, что несколько откликов — совершенно нормальная практика, если кандидат квалифицирован. И советует не забывать о прямом контакте с рекрутерами. Так что мой ответ: подавайтесь на несколько релевантных позиций, но не путайте количество откликов с полноценной стратегией поиска работы. #quickie