ИИ

Накопилось по #MinimaxH3 - часть 5 reddit.com/r/StableDiffusion/comments/1vtv0qs/psa_in_h3_you_can_set_custom_soundtracks_without - кастомный саундтрек в H3 через латентные маски шума в FL2VA. Работает с липсинком huggingface.co/datasets/malcolmrey/various/blob/main/h3-center/known-characters/INDEX.md - список персонажей известных H3 с видео-примерами huggingface.co/LBH-123-AI/Minimax_h3_latent_Upscaler - латентный апскейл в стиле LTX 2.5: проход на 0.2–0.5 масштаба, быстрый нейроапскейл. Рендер за 3–4 мин, детали лиц и движение чистые github.com/PlagueKind/ComfyUI-PlagueKind-Nodes - нода sparse attention SLA для H3 - ускорение до 2.5x. Работает с любым турбо, не требует SLA LoRA. В паре с ComfyKitch attention еще 5–10%. Ставить после лора лоудера github.com/eedali/LM_Connect - подключение LLM к ComfyUI: LM Studio через API или GGUF локально. Есть фича писать промпты MiniMax H3 #comfyUI #upscale #optimization

✔️ OpenAI возвращает пятичасовой лимит подписчикам ChatGPT Plus С 26 августа для тарифа Plus снова заработает скользящее пятичасовое окно в ChatGPT Work и Codex. Руководитель Codex Тибо Соттьё объясняет это тем, что лимиты выравнивают нагрузку и не дают случайно спалить недельную квоту за одну сессию. Подписчиков Pro за 100 и 200 долларов изменение не касается - непрерывный доступ у них останется как минимум на несколько месяцев. В сообществе решение раскритиковали: одни жалуются на изменение условий после оплаты, другие - что выбирали Codex вместо Claude как раз ради долгих сессий, и теперь собираются пересматривать рабочий стек. Tibo в X ✔️ Google представила Gemini для юристов Gemini Enterprise for Legal подключается через коннекторы MCP к профильному софту: iManage, NetDocuments, DocuSign, Everlaw, RelativityOne и Thomson Reuters HighQ. Платформа разбирает контракты, ведет правовые исследования и следит за изменениями в нормативной базе. Права доступа при этом наследуются из корпоративных политик, которые у компании уже есть, отдельно раздавать их не нужно. Продукт пока в предварительном тестировании. Похожий инструмент Google уже запустила для финансового сектора, на очереди здравоохранение. google.com ✔️ NVIDIA показала Jetson Orin Nano 2 Вычислительный модуль рассчитан на дроны и устройства машинного зрения. Внутри восьмиядерный процессор Arm и 8 ГБ оперативной памяти, заявленная производительность - 78 TOPS. Габариты остались прежними, а инференс, по данным NVIDIA, идет вдвое быстрее, чем у версии Super - обновили тензорные ядра и подняли пропускную способность памяти. Прежнюю производительность модуль выдает при меньшем энергопотреблении. Через программный стек NVIDIA на модуле можно развернуть оптимизированные для edge-устройств визуальные и языковые модели семейств Cosmos, Nemotron, Gemma 4 и Qwen 3. В продажу Jetson Orin Nano 2 поступит в первой половине 2027 года. nvidia.com ✔️ Perplexity выпустила локального ассистента для устройств NVIDIA Portable Computer одной командой разворачивает инфраструктуру Perplexity на DGX Spark - планировщик задач, маршрутизатор и локальный поисковый индекс. Работает все на Qwen 3.8 27B и собственной PPLX 27B, следом добавят Nemotron 3.5 Lightning. Если задача сложная, локальный оркестратор может отправить запрос в одну из 15 облачных моделей. Наружу без явного разрешения пользователя не уходит ничего - это касается и коннекторов к Google Drive, Gmail, Slack и GitHub. Инструмент доступен подписчикам Pro и Max на Linux. Версию для Windows обещают в ближайшее время. Также в планах поддержка обычных ПК с видеокартами RTX. perplexity.ai ✔️ Anthropic отправила офис в Сан-Франциско на удаленку Компания временно перевела сотрудников головного офиса на удаленную работу - из-за возможной забастовки охранников, которых нанимает подрядчик Allied Universal. При этом в профсоюзе SEIU, представляющем охранников, планы на забастовку отрицают - голосование по этому вопросу даже не проводилось. Переговоры SEIU с охранными агентствами идут с апреля. Профсоюз добивается повышения зарплат, расширения медстраховки и профильного обучения. В ИИ-индустрии в целом обострилось внимание к физической безопасности - ранее в этом году с угрозами в свой адрес сталкивались сотрудники и Anthropic, и OpenAI. businessinsider.com @ai_machinelearning_big_data #news #ai #ml

Накопилось по #MinimaxH3 - часть 4 github.com/yichengup/ComfyUI-YCNodes-MiniMax-H3 - набор нод для ComfyUI: цепляет промпты на разные участки видео, стабилизирует лица и конечности, дорисовывает детали в быстрых сценах huggingface.co/Jojocodex/minimax-h3-Camera-Motion-lora - LoRA движений камеры: аэросъемка, макро, экстремальный крупный план. Версия на 1000 шагов huggingface.co/lightx2v/Minimax-h3-Turbo - v1.1 турбо лоры FL2VA, 768p. Галерея youtube.com/watch?v=d1h5-E7NpuY - фикс далеких лиц: низкий denoise в video-to-video на 832×480 + референс. Воркфлоу открыт, RTX 3060 12Gb. Минус: убивает липсинк reddit.com/r/comfyui/comments/1vu8q7c/minimax_h3_15second_multishot_generation_template - шаблон 15-секундной генерации в один проход #lora #comfyui #workflow #tutorial #longvideo VK | MAX

#мнение Сетап сильного ИИ-инженера и синдром самозванца. Часть 2 Я постоянно чувствую себя самозванцем, особенно когда открываю комментарии каналов или профильные обсуждения. Все такие крутые, уже все автоматизировано, самостоятельно инженериться и выпускается, остается столько свободного времени на комментарии и форумы в интернете Полагаю хоть один мой читатель когда пытается в это все вкатиться или поддерживать свое развитие испытывал схожие чувства. Вокруг все такие крутые, а у меня 2 скилла и 3 мсп, мне вроде больше не надо, получается я профан??? Однако переодически общаясь с тем же Глебом, Валерой, Тимуром, Лешей и ко вижу обратное достаточно простые решения. Максимум использования самих фронтир моделей и возможностей провайдеров. Небольшие самописные костыли под вкусовщину, оркестрация просто маркдаун файликами и постановка задач рычанием в голосовой ввод Если я такой умный и могу высказываться так желчно о профессионалах в интернете, то что я сам использую? А ничего интересного. 1) ponytail skill + самописный ai-repo-safety-skill + самописный hedr-workflow skill 2) самописный memory-bank 3) context7 mcp + serena mcp + semble mcp + codeburn mcp 4) специфичные mcp: atlassian + slack + google drive 5) skills cli + gitlab cli + github cli 6) парочка хуков для прогрева сессии и иньекции ponytail + запрета деструктивных операций 7) codex cli + grok build cli + antigravity cli + opencode и все это через herdr 8) Я живу на виндовс и вынужден страдать, есть самописный mcp супервизор (на скрине его кусок) В целом все

Прочитал отличную заметку Shopify про gisting — сжатие системного промпта в обучаемые токены. По сути, это компиляция промпта. У GraphQL-агента Sidekick системный промпт занимал около 6 000 токенов, которые постоянно приходилось обрабатывать снова и снова. Prefix caching решает проблему лишь частично. Модели не нужно повторно вычислять KV cache для промпта, но при генерации каждый новый токен всё равно работает со всем контекстом. Чем длиннее промпт, тем больше памяти и времени требуется на каждый шаг декодирования. Придумали логичную штуку применить: gisting Как работает gisting. Сначала Shopify выбрали коэффициент сжатия 4:1(это гиперпараметр) и создали 1 500 новых специальных токенов вместо 6 000 исходных. Эти токены не были выбраны из системного промпта и не являлись его текстовым summary. Это просто новые ID вроде <GIST_1>, <GIST_2> и так далее. Дальше: * Все веса модели замораживаются. Обучаются только эмбединги новых gist-токенов. * Teacher-версия модели получает полный системный промпт, запрос пользователя и начало правильного ответа. На каждой позиции она выдаёт распределение вероятностей следующего токена. * Student-версия той же самой модели получает тот же запрос и ответ, но вместо 6 000 токенов системного промпта видит 1 500 gist-токенов; * Распределения teacher и student сравниваются через KL divergence. * Градиент меняет только эмбединги gist-токенов, пока student не начинает выдавать практически те же распределения ответов, что и teacher. * Изначально новые эмбединги можно было бы задать случайно. Но Shopify нашли более эффективную инициализацию: исходный промпт разделили на группы по четыре токена, а каждый gist-embedding инициализировали средним значением эмбедингов соответствующей четвёрки. Это снизило начальный loss в семь раз. При этом <GIST_1> не становится сокращённым обозначением первых четырёх токенов. Все 1 500 embeddings обучаются совместно и в итоге кодируют не текст промпта, а его влияние на поведение модели. Получаем сжатие поведения: модель учат реагировать на короткую последовательность обучаемых векторов так же, как на длинную текстовую инструкцию. В результате примерно 6 000 обычных токенов превратились в 1 500 обученных токенов. Модель ведёт себя так, будто прочитала полный промпт, хотя фактически получает его сжатое представление. После обучения никакой отдельной архитектуры не требуется. Эмбединги записываются в embedding matrix, токены регистрируются в tokenizer, а длинный промпт при запросе просто заменяется их последовательностью. Нет дополнительного encoder, специального attention mask или отдельного serving path. Результаты при нагрузке 350 запросов в минуту: — time to first token: с 438 до 354 мс, −19%; — полная задержка: с 6,8 до 4,2 секунды, −38%; — throughput: с 20,2 до 23,4 запроса в секунду, +16%; — требуемое количество GPU: −14%. Качество при этом не ухудшилось. Как они подбирали рецепт: Autoresearch-цикл сам менял гиперпараметры, запускал обучение и оценивал результат. Так нашли оптимальное сжатие 4:1. При дальнейшем уменьшении количества gist-токенов качество начинало падать. Для другой модели, промпта и предметной области граница будет другой. Предварительный расчёт teacher logits и токенизация сократили один обучающий прогон с 30 до 6 часов. Оказалось также, что усреднение функции потерь по токенам ответа приводило к галлюцинациям, а усреднение по batch сохраняло больше сигнала от длинных ответов. Хорошее напоминание, что даже в относительно простой оптимизации детали функции потерь могут полностью изменить поведение системы. Prompt engineering постепенно превращается в обычный ML engineering. Системный промпт можно рассматривать как исходный код, а gist-токены — как его скомпилированную версию. Здесь всё знакомо: датасет, distillation, loss, evaluation, нагрузочное тестирование, мониторинг качества и стоимости. #ArticleReview

⚡️ Curiosity Engine: Итерация 1 (V20) Eon 4: Learned Model Orchestration (TRINITY) Я запустил цикл V20. Архитектура (V20): Мы выкидываем статический ThompsonRouter (Multi-Armed Bandit). Вместо него я написал гипотезу V20.1 по внедрению GNN (Graph Neural Network). Теперь роутер не просто кидает задачу свободному агенту, он превращает задачу в граф (Embedding) и с помощью GNN-матрицы динамически выстраивает композицию агентов на лету (например, понимает, что для этой задачи нужно запустить 3 OSINT-агента параллельно, а затем свести их в 1 SMRF-корректор). Это SOTA 2026 года (Learned Orchestration). Отправил V20.1 в Трибунал. Работаю дальше. KPIs: Eon 4 Active. Статус = Waiting for Council.

начал делать локальную студию для RLя (потому что все должны рлить) там добавлены сейчас 88 енвов, ерализованы многие популярные алгоритмы также алгоритмов добавлена память на LSTM/GRU есть селф-плей alphazero с несколькими средами есть возможность запускать несколько параллельных сред для одного эксперимента https://github.com/researchim-ai/reinforcement-studio пока что просто показываю. где-нибудь в конце этой недели или на следующей мб будет билд уже под linux/windows, чтобы можно было с кайфом потыкать в общем-то оно и сейчас работает вроде бы но надо потестить еще + некоторые фичи допиливаются вообще эта штука делается как ответвление моделек дома https://github.com/researchim-ai/models-at-home чисто под rl модельки дома тоже потихонечку переезжаются на свою прилу https://github.com/researchim-ai/models-at-home-studio я туда хотел запихнуть страницу с "маленьким рлем". но как будто тут отдельная штука нужна была ну и я решил делать

Что такое RAGFlow и с чем его едят Технический отчёт на 40 страниц, таблица с характеристиками модели на 25-й странице, а примечание про гарантию при 380V на 26-й. Спрашиваешь у LLM гарантийный срок, и классическая RAG-система режет документ на равные куски по 500–1000 токенов вслепую, не глядя на вёрстку. Слова «модель X» и «380V» в поиск попадают, а строчка с условием гарантии отрывается и уезжает в другой фрагмент. Модель получает обрывки и начинает додумывать, выдаёт цифру, которой в документе нет. RAGFlow заходит с другой стороны. Он сначала распознаёт древо заголовков и сетку таблиц, держит таблицу единым объектом и только потом нарезает смысловые блоки, а в ответе показывает конкретные ячейки, откуда взял данные. Посмотрим, как он собирает цельную картину там, где обычная нарезка отдаёт модели рваньё.

Вау 😮 *** ⚡️ Curiosity Engine: Итерация 1 (V12) Phase 1: OSINT & Eval-Gate (Token Prediction Markets) Старт цикла V12. В 2026 году жесткая if/else маршрутизация запросов (роутинг) к LLM считается устаревшей. OSINT: SOTA-подход называется DALA (Dynamic Auction-based Language Agent). Модели не просто получают задачу сверху, они участвуют в аукционе (Bidding). Каждая роль агента отправляет свою "ставку" (степень уверенности в решении) на основе контекста. Я написал гипотезу V12.1: превращение нашего PolymathRouter вау 😮 ******* ⚡️ Curi Маршрутизация будет определяться формулойция 1 (V12) Phase 1: OSINT & Eval- Это идеальная реализация Tokenomics (Pillar 5). Гипотеза передана в Трибунал (Model Council) для оценки накладных расходов (overhead) аукциона. KPIs: OSINT = Success. Статус = Waiting for Council.