Недавно ковырялся в Chess Platform. В какой-то момент решил пофиксить экраны регистрации/авторизации, потому что Codex или Claude их как-то стремненько собрали в первый заход. И подумал, что ни разу не видел какую-то попытку на шахматных платформах обыграть "шахматные темы" в подобных сценариях. Сюда же можно еще 404-ошибку добавить. Codex за 5 минут собрал варианты ниже. У LLM, конечно, проблема с генерацией реальных шахматных позиций (ну и дорабатывать надо без сомнения), но раньше, конечно, без вариантов было что-то подобное даже подумать сделать, т.к. все время не хватало ресурсов. P.S. в проде LLMки собрали говно в итоге... Надо будет потом править. #process #chessplatform #llm

Чтобы LLM не галлюцинировала, нужно дать ей инструменты поиска в интернете (с) любой человек в 24ом году В 26ом – это скорее вредный совет Все чаще при ответе на сложные вопросы я беру большую модель (Astra/Fable) и прошу не использовать поиск в интернете, а подумать самостоятельно Тут есть две причины 1️⃣ В интернете такое большое количество буллщита, особенно в seo-оптимизированных статьях, которые (сюрприз-сюрприз) оказываются в топе поисковой выдачи, что это скорее засирает агенту контекст, чем помогает ему И каждый месяц прогресса только усугубляет ситуацию новыми порциями отборного слопа под видом личных мнений. Уже даже на реддите сложно продираться через это 2️⃣ Первый этап тренировки модели (претрен) – это попытка сжать весь интернет в ограниченное количество параметров модели. И реальные закономерности сжимаются лучше, потому что согласуются друг с другом и описываются более универсальными правилами. А буллщит часто противоречит даже сам себе Короче, если короткая формула третьего закона Ньютона непротиворечиво описывает и предсказывает кучу реальных ситуаций, то скорее всего её важнее запомнить, чем пантеон греческих богов, где на объяснение каждого явления нужен отдельный миф, а предсказательной способности все равно не появляется

Кстати, недавно посмотрел Пантеон – это разъеб (и это не про Грецию, а про наши с вами ИИ приколы)

Вот статья Кости Крестникова, которая показывает этот механизм выучивания согласованных закономерностей. Кстати, одна из немногих из РФ, которую приняли на NeuralPS, респект ——— TL;DR В top-tier моделях скорее всего уже есть нужные знания и скорее всего они уже разложены по полочкам с пониманием, где бред. Для сложных вопросов попробуйте не сбивать модель мусором из поисковика (они все еще слишком цепляются за инфу в контексте)

Ворлдбилдинг от ллм потрясающий Вчитался в то, что написали агенты в игре. В пустынном Чаша есть энкаунтер где игроку по задумке объясняют, что можно лутать развалины и продавать в городе найденное. Там сцена в текстовом квесте, как женщине привозят лом, она его взвешивает и платит за него. После этого её можно спросить зачем они покупают лом. Тогда происходит гениальное объяснение. Чаша закупает буквально лом (не какие-нибудь ценные находит из руин цивиллизации, а буквально ржавый металл). Далее они переплавляют его во всякие предметы обихода типа дверных петель. Дверные петли дождь уничтожает ржавчиной за год (мы в пустынном пост-апокалипсисе). Поэтому нужно покупать больше лома. Варианта спросить "зачем они год за годом выставляют ржавеющий металл под дождь?" спросить нет, так что видимо посыл автора (Опуса) здесь был в том, что в Чаше живут терминально тупые дебилы. Или возможно это его глубокая шутка, что люди в целом терминально тупые, покупают мусор, чтобы затем с помощью природы превращать его ещё в меньший мусор.

Мысли про скорость ⚡️ На самом старте ведения канала я хотел написать пост про скорость разработки продукта. Но сначала вроде "не хотелось тратить хороший пост только на первых 10 подписчиков", а потом, конечно же, забыл про него. Я начал как-то участвовать в продукте хотя бы на полшишечки где-то в 2014 году в Anywayanyday, там был еще дата-аналитиком, но именно в тот момент стал задавать вопросики по собираемым данным, еще только предполагать, что не каждая фича нужна в продукте, а некоторых людей надо вообще изолировать от продуктовой команды. Потом также в Тач Банке был аналитиком данных, а в Сбере, начиная с 2016 года, уже когда получил лычку "продакта", точно был убежден, что 95% "дроча над продуктом" избыточны. Под этим термином я подразумеваю бесконечные согласования цвета кнопок, запятых в тексте, оттенков зеленого (в Сбере вроде позже даже появился мем: "573 оттенка зеленого"), добавить этот чек-бокс или нет и т.д. Что уж говорить про реальные фичи - там принятие решения уходило в бесконечность. Причем в Сбере у части этих телодвижений хотя бы было какое-то обоснование, типа у нас гигантская база, поэтому будем тянуть кота за яица с фичей, пока кто-то сверху не рявкнет: "Где сраные автопереводы, которые еще квартал назад должны были запуститься?", тогда выкатывали то, чтобы было в текущий момент на деве, а на остальное было насрать, что обсуждали полгода. А вот новые продукты, старые умирающие или стагнирующие, новые направления или только гипотезы для них, в общем, подавляющее большинство фичей/идей/продуктов, которые могли бы дать какое-то влияние на нужные метрики - это просто надо было делать, обвешивать метриками и выкатывать. Лично я ни разу не был свидетелем, когда кота тянули за яица продукт тянули как репку, и в итоге это принесло супер результат, если сравнить с тем что было изначально. Пару раз было что-то похожее, но я не могу это засчитать, т.к. там изначально было какое-то адовое говно, которое в здравом уме нельзя считать за вменяемую версию. А уже после выкатывания все тюнить, доделывать, где-то переделывать, в общем заниматься обычной продуктовой работой. Править тексты, кнопки, чек-боксы, менять онбординг и т.д. И вот сейчас с LLMками особенно до каких-то вменяемых денег (либо, если супер чувствительная инфа/финасы) проекты так и должны работать по дефолту. Причем уже не надо ходить за разработчиком по задачам, которые дольше описывать, чем поправить самому (конечно, если нормально настроили процессы, а не просто херачите в прод). Но будет интересно услышать, как дела не у стартапов. 😁️️️️️️ #база #llm #процессы

Sage-A1.5 Агентная модель Shanghai AI Lab на 35 млрд параметров с MoE. Ведет долгую работу сама: раздает подзадачи, проверяет себя и доводит научный поиск до результата. • Оркестрация: несколько суб-агентов с изолированным контекстом работают параллельно и оспаривают допущения друг друга • Самопроверка внутри собственной цепочки рассуждений, без внешнего критика: модель смотрит, что вышло и что провалилось, и меняет курс • Инженерия от разбора кода до патчей и прогона тестов • Научный поиск с литературой, анализом данных и проверкой доказательств • Инструменты, браузер, длинное планирование, следование инструкциям • 35B MoE на базе Qwen3.6-35B-A3B и Agents-A1 • Контекст 262 тысячи токенов • Запуск через SGLang или vLLM с OpenAI-совместимым API • GAIA 95,1 и XBench-DS 92,0 • SWE-bench Pro 61,2, MLE-Lite 65,2 huggingface.co/InternScience/Sage-A1.5 #agent MAX

А на каком языке вы общаетесь с LLM? Я часто вижу разные списки «лайфхаков» по работе с нейросетками. Там есть как полезные, так и не очень. Часто в таких списках есть утверждение, что они становятся умнее, если общаться с ними на английском. Мне стало интересно это проверить по бенчмаркам и я нашёл MuBench, опубликованный летом. Исследователи покрыли 61 язык и задали разным LLMкам 3.9 миллиона запросов. Проверяемые модели на данный момент устарели, но они сейчас обновляются так быстро, что большое исследование нынешних мы получим лишь через ещё полгода. А мелкие исследования не так показательны. Выводы: 1️⃣️️️️ Общая разница небольшая, но она есть. Задачи на английском действительно обрабатываются чуть-чуть лучше 2️⃣️️️️ Если вы носитель языка, на котором в интернете много контента, вообще забейте на разницу Серьезное отставание в общем перформансе есть, например, у индонезийского и хинди. Даже несмотря на то, что носителей этих языков много, контента в интернете они оставили мало. Около 1,36% в выборке Common Crawl. Обучаться было не на чем. Немецкий - аномалия. Он - четвёртый язык по популярности в интернете, после английского, русского и китайского. Да, страны пост-СССР прям много в интернете нащитпостили. Тем не менее, GPT-4o плохо с ним работал. Интересно, как там с нынешними моделями. Но для большинства крупных языков разница составляет единичные пункты в бенчмарках 3️⃣️️️️ Ощутимая разница есть в задачах на общую логику повседневного языка Это видно на втором скриншоте. Страшные слова сверху это названия разных бенчмарков, ориентированных на базовое понимание логики текста. Например, бенчмарк SNLI показывает, насколько модель справляется с поиском логической связи в двух предложениях. Довольно важная штука и LLMки явно справляются с такими задачами лучше на английском. 4️⃣️️️️ Модели, заточенные под конкретные языки, справляются с задачами на них лучше. Но хуже работают с другими языками. Лично я чаще всего использую LLM на английском. Но больше для дополнительной практики языка, чем в погоне за эффективностью. Видимо, другого смысла в этом особо и нет.

Ну что, на каждом углу рассказывают о внедрении автономных ИИ-агентов, а исследование «Инфосистемы Джет» и Smart Ranking в это время показывает другие результаты. Смотрите на эту лестницу разочарования: • пилотируют или используют LLM — 86% компаний • пилотируют полуавтономных агентов — 59% (в проде — 15%) • автономных агентов в пилоте — 25% (в проде — 8%) • мультиагентные системы — 23% (в проде — 8%) Почему так? Да потому что агентам нужны данные, интеграции, контроль, доверие, владелец процесса и доказанный эффект. В исследовании выделили несколько проблем: 44% компаний жалуются на незрелость процессов и данных, 58% — на стоимость GPU, 56% — на юридические риски, а 46% вообще не видят экономического эффекта. Отдельный привет тем, кто думает, что «просто подключим модель и всё заработает». Без данных ИИ автоматизирует не более 5% процессов. Так что никакой магии, только скучная инфраструктура.

Cloudflare выпустила превью Clairic — это модель fact-extraction, с обещанием вскоре открыть веса. Модель относит себя к классу System One, который месяц назад ввела TypeSafe с моделью Jev, но в отличие от Jev и собственной decision модели Cloudflare Clef выдаёт не вероятности по списку вариантов, а типизированные значения: текстовые спаны с позициями символов, числа, даты, длительности, списки, оценки в виде распределения с 80-процентным интервалом и прогнозы ряда по шагам. Ответ формируется за один прямой проход без генерации токенов, оплата только за вход, типичная задержка меньше секунды. Сама идея модели прекрасна — сплошь и рядом использование LLM для задач "извлеки такие-то данные и верни JSON" выглядит излишеством, да еще и медленным, и приходится конструировать цепочку из NER, скриптами и вызовами LLM, что тоже не очень быстро и надежно. Правда, измерить качество работы пока не с чем — сравнение с LLM заведомо выигрышно для новой модели. Будет интересно посмотреть на веса и требования к локальному запуску — возможно, модель вполне подойдет для запуска на мощном ноутбуке или карте уровня RTX4090, хотя runtime придется собирать нетиповой. https://blog.cloudflare.com/clairic-extraction-model/

🧠 Как работает нейросеть простыми словами Вышел урок про то, что происходит внутри ChatGPT и Claude. Коротко: нейросеть не думает, а угадывает следующее слово. Отсюда и её польза, и уверенные выдумки. Что разбираю в видео: • что такое LLM и как её обучают • токены и почему по-русски они дороже • как модель пишет ответ и при чём тут температура • контекстное окно и почему длинный чат «забывает» начало • откуда берутся галлюцинации • четыре правила, чтобы нейросеть не подводила Без формул, 9 минут. Ролик снова целиком собрал агент по моему заданию, вместе с анимацией и озвучкой моим голосом. https://www.youtube.com/@baldfrombrowser

🎤 За круглым столом на AIST’26 В заключительный день конференции провели круглый стол по бенчмаркингу, оценке моделей и тому, как в сложности задачек угнаться за способностями LLM. От нашей команды Sber AI был золотой состав: @alenusch, @SamoedR и ваша покорная слуга. Дискуссия получилась живой (не ожидаешь такого в 9 утра по Москве) и, затронув такой «больной» вопрос, затянулась сверх тайминга больше чем на час. Сошлись на том, что парадигма статического бенчмаркинга уходит и все движется в сторону регулярной актуализации заданий и cost-effective оценки LLM. Это, конечно, не все аспекты, а лишь часть, полную картину смотрите в записи круглого стола. Кажется, лучшего завершения конференции и придумать нельзя! @mashkka_ds #трудовыебудни #mashkka_kazakhstan #aist #ai

LUT3 в NVIDIA Rubin Блогпост от какого-то челика Описание хранения в PTX ISA Последнее поколение GPU от NVIDIA добавило аппаратную поддержку специфичного 3-битного типа данных LUT3. Данный тип из себя представляет следующее: • 3-битные значения • Один скейл на 32 значения как в MXFP (0.25 бита на значения) • Одна кодовая книга из 8-битных слов в FP8 на 512 весов (0.125 бит на значение) Итого 3.375 бит, или на 20% меньше MXFP4. Утверждается, что в таком виде его можно подать тензорным ядрам, и они сами умножат, как надо и довольно быстро. Выглядит как перспективный вариант сжимать и обучать LLM-ки, с поддежкой батчового инференса. Однако никаких бенчмарков скорости, времени работы умножения с таким представлением, я нигде не смог найти.

Как сегодня дообучают LLM: от PPO и RLHF к DPO, GRPO и GSPO Предобучение даёт языковой модели знания, но этого не всегда достаточно, чтобы она хорошо следовала инструкциям и решала сложные задачи. В новой статье рассказываем, как устроен post-training LLM и как развивались методы дообучения с подкреплением 👨🏼‍💻 Из статьи вы узнаете: - зачем нужны SFT и RLHF и как работает алгоритм PPO; - как DPO позволяет обучать модель на предпочтениях без отдельной Reward Model; - как устроены GRPO и GSPO и почему для reasoning-моделей стали использовать автоматически проверяемые награды (RLVR). Разбираем основные идеи на простых примерах и с математикой. Читайте статью по ссылке!

Еще бенчмарк по голосовым ассистентам, но уже со стороны качества работы LLM AssemblyAI выкатили Voice Standard Bench – 50+ LLM на реальных голосовых задачах В общем, после транскрибации почти всегда идёт LLM-вызов – почистить диктовку, сделать саммари звонка, вытащить имена и номера заказов. На объёмах этот шаг съедает заметную часть бюджета, потому что туда по привычке ставят фронтир-модель. В итоге что в бенче: – 4 задачи: саммаризация, извлечение данных, коррекция текста, чистка диктовки – 4 длины: 30 сек (голосовое), 2 мин, 15 мин (звонок в поддержку), 60 мин (митинг) – на входе реальный выход STT – с «эээ», оговорками и ошибками распознавания – качество, скорость и цена за час аудио рядом – судьи – Claude Opus 5.5 и GPT-5.6 Sol, диктовка проверяется механически по эталону Лучшие: – Overall: GPT-6 Astra – 92, GPT-6 Luna – 90 (самая дешёвая в пределах 8 пунктов от топа), GPT-4.1 – 84 (самая быстрая) – Саммари: Opus 5.5 – 98, GLM-5.3 Flash – 91 за копейки – Диктовка: Gemini 4 Argon – 100, GLM-5.3 Flash – 96 – лидер по качеству стоит в 15–77 раз дороже модели, отстающей всего на 2 пункта. Только на часовых записях разрыв сжимается до ~4× – GPT-6 Luna – около полцента за час аудио, но платишь задержкой – gemma-4-31b на 30 секундах отвечает быстрее секунды с качеством 93 (у Luna – 1.7 сек) – Qwen3.5 4B Fast – самая быстрая, но на 15-минутных звонках качество падает Прикол, что опенсорс почти не выигрывает по цене – Luna и так стоит копейки, а экономия на открытых моделях – доли цента ценой 10+ пунктов качества на всём, что длиннее 2 минут. Зато по скорости на коротких входах открытые модели на их железе рвут всех: те же модели у других хостеров отвечают 10–20 сек. Бенчмарк открыт на GitHub, и его можно прогнать на своих транскриптах и записях. Выбрать уже под себя. Короче, фронтир в голосовых сценариях нужен в основном на длинных митингах. Для голосовых сообщений, коротких звонков и диктовки хватает маленькой быстрой модели, а сэкономленное лучше потратить на нормальный подбор модели для своих данных. https://www.assemblyai.com/blog/voice-standard-bench

#книги # Anathem, AI для письма и текстовые квесты Хороший текст это очень сложная вещь. Я кое-что понимал в этом как автор научно-популярной книги. Однако окончательно это понимание кристаллизовалось в моей голове после двух недавних событий: я попробовал использовать LLM для генерации текстовых квестов в ROAM и прочитал Anathem Нила Стивенсона. Мою книгу под рабочим названием "ИИ для всех", которое мы обязательно поменяем на что-то более кликбейтное, можно ждать на полках весной 2027. Я давно об этом вам не писал, так что вкратце: я уже всё написал, но издательство посчитало книгу слишком сложной и я, после некоторое сопротивления, признал их правоту. Они выделили мне отличного редактора и с тех пор мы над ней работаем. Книга определенно становится лучше. Во время работы над книгой я много раз переписывал одни и те же главы. Каждый раз мне казалось, что лучше уже нельзя, но взгляд другого человека показывал, что там или не всё понятно, или читатель потеряется, или не интересно, и так далее. Потому что писать тексты сложно. В популярном сознании программировать сложно. Мой тейк: любой язык программирования это просто продвинутый список покупок для компьютера. Если вы знаете его правила, то дальше оно или работает, или нет, и вы сразу об этом узнаете. А теперь сравните это с любым текстом на естественном языке. Текст обязан быть интересным, но не слишком сложным. Простым, но не слишком предсказуемым. Музыкальным, но не вычурным. Понятным, но не пустым. Причем эти и другие требования должны соблюдаться одновременно. Например, нельзя компенсировать недостаток глубины идей более красивым описанием природы. Если любого компонента не хватает, всё рассыпается, текст не работает. В свою RPG ROAM я завел движок ink для полноценных текстовых квестов. Opus 5.5 у меня отлично накодил много сложных игровых фич, поэтому я думал, что он должен неплохо справиться с созданием пары квестов. Процесс был такой. Я скормил ему лор своей давней FATE CORE (система наподобие Dungeon and Dragons) компании и адаптировал под эту игру. Потом я запустил настолку из агентов для генерации таймлайна мира: много Haiku играли каждый за одну фракцию в мире каждый, делали ходы раз в игровой год, а Opus потом как гейм мастер делал из этого нарратив. Получился неплохой скелет. Затем я запустил Opus делать квест, GPT Sol 6 тестировать и оценивать по нескольким критериям, а Gemini Flash править русский язык. Система была неплохая, но получилось плохо. Я думал, что выйдет нечто вроде "сойдет." Может не ламповые Космические Рейнджеры, но хотя бы поиграть можно. Нет, видимо "сойдет" текстов не бывает. Оно просто не работает. Ты видишь текст и он сразу не клеится, ты не вовлекаешься, что-то не то. Например, описание одной из сцен, заброшенной фермы, изначально включало такой пассаж от агента: "Рядом с колодцем лежит веревка, на ней множество узлов и ни один из них не мокрый." Закономерно, я спрашиваю агента: "это что за херня? Какой нахрен мокрый узел, угашенный ты об дерево?" Оказалось, что по лору хозяин этой фермы измерял количество воды в колодце веревкой с узлами. Опус пытался таким образом донести до игрока этот кусок лора. Вот только для этого надо было мысленно поместить себя на место игрока. Я задумался о том, насколько это сложно. Даже простейшее описание локации требует понимать какая информация доступна читателю, а какая нет. Поэтому я со времен Claude Sonnet 3.5 тестирую, может ли LLM написать за меня следующую главу. Модели стали многократно круче, а ответ всё так же "нет." LLM или даже агентская система с множеством лупов не способна на данный момент написать такую книгу, которую стоит читать. Иронично, что большие языковые модели не умеют писать! Код оказался намного проще. Так вот, это приводит нас к Anathem. Это книга от автора Snow Crash – новеллы, которая ввела термин "метавёрс." Поэтому я знал, что Нил Стивенсон хороший фантаст, но я не ожидал, что настолько. Про Anathem тяжело написать без спойлеров, поэтому я скажу так. Это очень сложный текст. Не для читателя, ведь читается она очень легко (после первых глав, там надо вкатиться). Это сложный текст с той точки зрения, что он объединяет в себе собственный язык, несколько переплетающихся сюжетных линий, глубокий слоёный символизм, рассуждения о природе сознания и квантовой физике, крутой экшен и человечных персонажей. И при всём этом оно работает. Такую хрупкую конструкцию могло бы разрушить что угодно, но в книге нет ни одного лишнего слова. Например, там есть три главы подряд где персонажи просто сидят за столом и обсуждают параллельные миры. Причем не абстрактно, а речь идет о настоящей физике. Но только в выдуманных автором терминах. Звучит невероятно скучно, да? Но я не мог оторваться. Сцена, персонажи, ритм и переплетающиеся сюжетные линии так подобраны, что это очень интересно читать. Да ещё и к концу ты остаешься полностью убежден, что именно так и работает вселенная в реальности. Я думаю в книге автор, на самом деле, выражает своё видение мира. Поэтому я читал эту книгу с двух точек зрения. Как читатель я просто получал удовольствие. Как автор же, я смотрел на эту книгу как на шедеврально собранный механизм, и задавался вопросом, смогу ли я когда-то создать нечто близкое.

🔬 Search или extract? Новое исследование о памяти ИИ-агентов и decision models. В сообществе разработчиков ИИ-агентов давно спорят: что лучше для долговременной памяти - извлекать факты из диалога с помощью LLM или просто хранить и искать нужные сырые реплики? Новый препринт даёт логичный ответ - выбор зависит от бюджета на контекст. Со своей стороны изначально знал, что трек RAG и память в нашей работе пересечется (и так оно у нас и вышло). Мы вели разработку как extract методов подобно mem0, так и memory RAG с поиском по заметкам или сырым диалогам. Закономерно, что jev like модель, как развитие поиска (в лице выбора и ранжирования) станет хорошим дополнением для темы памяти. Но вернёмся к статье... 📊 Суть эксперимента Авторы сравнили подходы на диалоговых бенчмарках LoCoMo и LongMemEval: • Turns + Jev - выбираем лучшие сырые реплики за один вызов Jev. • engram v2 - система извлечения фактов, где LLM извлекает факты, Jev управляет ими (ранжирует/выбирает). •Turns + cosine (базовое ранжирование). •Turns + LLM (LLM-ранжировщик gpt4o mini). 🎯 Результаты 1. При строгом бюджете контекста сырые реплики не уступают извлечённым фактам: разница всего 0.5 пункта (77.0% против 77.5%) при чтении контекста в 265 против 251 токена. Это укладывается в заранее установленный зазор метрик в 5 пунктов. 2. Экономия на поиск сырых реплик - решение обходится в 3к (!!!) раз дешевле, чем извлечение фактов ($0.00061 против $1.865 за 1000 реплик). 3. Однако, польза от ранжирования резко падает с ростом бюджета. Если при выборе 3 из 30 кандидатов ранжирование даёт +17.4 пункта на LoCoMo, то при 20 кандидатах - всего +1.5. На LongMemEval: +9.1 и +1.1 соответственно. 4. При большом бюджете системы извлечения а-ля. Engram становятся точнее (82.4% против ~77.6% у Turns + Jev). 5. Jev против cosine ранжирования. Косинусный поиск на своём оптимальном k=6 даёт точность 68.6%, в то время как Turns + Jev — 77.0%. Выводы. При жёстких ограничениях (короткий контекст до 512 токенов) качественное ранжирование сырых реплик может заменить извлечение фактов, будучи на порядки дешевле. При больших бюджетах преимущество переходит к extract моделям. Отмечу, что Jev-селектор оказался не хуже LLM-ранжировщика (разница 0.4 пункта), но работал втрое быстрее. И это неплохое развитие rag memory систем дёшево и сердито. 😏

Всю жизнь я работаю с компьютерами, и главный выработанный мной скилл — не удивляться тупизне и абсурдности происходящего. В обычной жизни как? Есть важное и есть неважное, есть срочное и есть не срочное, есть сложное и есть несложное. И люди как-то эти вещи соотносят. Скажем, улетит ли рейсовый самолет, если пилот забыл дома пилотку? Скорее всего улетит. Будут ли у вас дотошно проверять билет, если ваш поезд уже отходит с перрона? Ну, скорее всего вы сначала запрыгните, а потом уже билет. Мама наказала сходить в магазин, а где деньги лежат, не сказала. Но ты в принципе все равно знаешь, где, поэтому сам нашел, взял и сходил. Логично, да? Ну вот, а в компьютерах не так. Там работает так называемая «формальная» логика, то есть все вещи имеют одинаковую бесконечно большую важность, а все процессы принципиальнее девственницы на первом свидании. Из-за этого комьпютеры ставят обычных людей в ступор: ну вот же файл лежит, почему ты сам его не мог взять, почему мне надо тебе явно на него указывать? Зачем мне нажимать на эту кнопку несколько раз, я же уже сказал, чего хочу! Почему компьютер меня не помнит, я же им пять минут назад пользовался? Почему таблицу из этой программы нельзя вставить в эту, они же одинаковые? Почему нельзя выключить подсветку клавиатуры, не зарегистрировав аккаунт? Зачем вообще клавиатуре аккаунт? Почему после установки что-то сломалось? Зачем вообще в компьютере процессы, которые что-то ломают? Почему этот сайт не открывается, хотя вчера открывался? Почему открывается на твоем телефоне, но не на моем? Почему этот провод передает данные в одну сторону, а не в другую? Он же одинаково с обоих концов выглядит. И так далее. Вооот. Так что наша ценность, как специалистов, и наша бремя как людей, это умение через этот булшит продираться, не теряя рассудок и даже не сильно ухудшая настроение. Некоторых, правда, сильно деформирует профдеформацией, и они начинают считать компьютерную логику нормальной. А потом удивляются, что она не работает. «Приходи в гости в любое время» — в смысле нельзя было приходить в любое время? Может вам еще и как дела у меня не интересно? А зачем спрашивали? Вы не поверите, но это все было вступление. Просто зафиксировать ситуацию. А теперь открытие: я понял, что в агентах/ЛЛМах ощущается как магия. ЧТО У НИХ СНОВА НОРМАЛЬНАЯ, ЧЕЛОВЕЧЕСКАЯ ЛОГИКА. Говоришь им: пойди проверь. И он идет и проверяет. Не спрашивает, что, где, куда, откуда, сколько, у кого ключи взять, а ой введи пароль, скопируй, пермишны поправь, и шелл новый создай. Просто идет и делает. По важному спрашивает. По неважному сам решает. Попросил в файле посмотреть, но в названии опечатался? Он посмотрит в нужном. ПОТОМУ ЧТО ПОНЯТНО ЖЕ ЧТО ТЫ ИМЕЛ В ВИДУ. Нужно найти информацию — найдет. Нужно сделать какой-то сайт — сделает КАКОЙ-ТО, а не вынет тебе всю душу пониманием задачи. А иногда еще и ответ оформит так, как тебе было бы удобнее всего ответ потреблять. Даже если ты его не просил. Потому что ПОНЯТНО ЖЕ, что ты хочешь удобно. Кто вообще в жизни когда-либо хотел чтобы неудобно. Короче, компьютеры из абсолютно тупого деревянного безынициативного вахтера с комплексом бога и вниманием к деталям как у Шерлока Холмса превратились в почти нормального человека, с которым можно иметь дело. Просто наконец-то хоть чуть-чуть выдохнуть можно. Но недетерминированные, да.

Модель на 120 млрд параметров запустили на распределенном кластере из шести потребительских устройств Реддитор объединил Galaxy S24+, ПК с RTX 3060 (12 ГБ), бюджетный Windows-ноутбук и три разных MacBook/Mac mini в единый вычислительный кластер. Система смогла загрузить 4-битную квантованную версию LLM-модели gpt-oss-120b, требующую минимум 47 ГБ памяти. Технически запуск реализован через пайплайн-параллелизм (pipeline parallelism). Вместо полной загрузки весов на одно устройство слои нейросети были последовательно нарезаны и распределены между шестью узлами по локальной сети. Основную нагрузку взял на себя рабочий ПК, предоставивший 28.7 ГБ ОЗУ и ресурсы RTX 3060. Из-за задержек межпроцессного взаимодействия и разнородного железа скорость генерации составила всего 1.1 токена в секунду, что делает проект скорее доказательством концепции, чем практическим инструментом.