🤖Не Jev, а FRIDA-Decisions FRIDA-Decisions: @artyfishl поделился рецептом как в кратчайшие сроки сделали свою decision-модель — FRIDA Decisions, всего на 0,8B и по качеству сравнимую с оригинальным Jev на бенчмарках. Спойлерить не буду, читайте статью, из которой вы узнаете: • почему роутинг, guardrails и реранкинг не обязательно отдавать LLM • упаковка: как прогнать текст через модель один раз сразу для всех вариантов ответа и ускорить запрос в разы • какие результаты показывают модели на razvilka, новом открытом бенчмарке, • честный разбор скорости и цены, вплоть до рублей за тысячу запросов • как устроено обучение: один текст, несколько вопросов, своя функция потерь на каждый тип. 💡Полезно тем, кто строит LLM-пайплайны и платит за каждый вызов судьи. 📝 Habr 🎮 Демо 🤗 Модель 🖥 Код 📊 Бенчмарк 📓 Примеры #jev #ai #frida

GRACE Метод сжатия латентов от KAIST AI и Kakao Corp: сжимает видео-автоэнкодер так, что DiT работает на 8× меньшем числе токенов. Ускорение 11.1× при том же качестве по VBench. • Сжимает предобученный автоэнкодер #Wan21 без потери совместимости с DiT • Генерация видео с 8× меньшим числом латент-токенов • Качество на уровне полного пайплайна по VBench • Без переобучения DiT с нуля — легкая адаптация LoRA • Wan2.1-I2V-14B: 32.8k → 4.3k токенов • Ускорение 11.1× при 480×832, 15.5× при 736×1280 • Инференс 78 с против 863 с на A100 80GB • Асимметричный денойзинг: база чистится раньше остатка github.com/cvlab-kaist/GRACE huggingface.co/chimaharicox/GRACE #optimiozation #t2v #i2v MAX

Провайдеры режут лимиты и почему гнаться за дорогим тарифом нет смысла Если посмотреть на то, что сейчас происходит у мейджоров, тренд очевиден: эпоха доступных моделей про-тира заканчивается. Дело даже не в появлении тарифов по $100 или $200 - они на рынке уже приличное время. Прикол в том, что резать доступ начали прямо внутри них: OpenAI уже урезает лимиты даже на своем топовом 200-долларовом плане. Модели методично выдавливают на ярус выше: Google убирает бесплатный доступ к нормальному Flash, оставляя на фри-тире только Flash-Lite, а полноценный Pro уже в этом месяце становится эксклюзивом Ultra-подписки и уходит из обычного Pro. И подобные сдвиги сейчас происходят абсолютно у всех. Причины понятны: дефицит полупроводников, безумная себестоимость рассуждающих сеток и жесткое требование инвесторов к окупаемости инфраструктуры. Но на фоне этих сдвигов интереснее другое: как на это реагируют пользователи. Большинство по инерции продолжает цепляться за топовые тиры, искренне полагая, что их повседневные задачи требуют только флагманских мощностей. "Я же пишу важную стратегию", "у меня сложный аналитический отчет", "мне нужно составить глубокое ТЗ" - люди систематически переоценивают сложность собственной рутины. Кажется, что если задача ответственная, то легкая модель ее непременно завалит. В реальности почти весь этот объем спокойно переваривается моделями дешевого и быстрого сегмента. Причем легкая модель часто справляется лучше не вопреки, а благодаря своей простоте. Мой рабочий процесс давно завязан на быстрых сетках, и в логике постоянного контроля со стороны человека это дает огромное преимущество: - Быстрая модель отдает драфт мгновенно. Ты корректируешь вводные, направляешь ее контекстом и за пару коротких итераций получаешь готовый рабочий документ. - Тяжелая модель уходит в затяжные размышления, методично сжигает лимит запросов, а результат на выходе все равно требует точно такой же ручной доработки. Флагманы действительно незаменимы там, где у вас нет собственной экспертизы либо вы делаете действительно сложный ресерч. Под сложным я имею ввиду не просто продуктовое интервью и поиск в интернете, а реально сложное. Использование дорогого reasoning-тира для текстов, и базовых кастдевов - оверкил. Дальше гайки будут закручивать еще сильнее: лимиты на Pro продолжат падать, а стоимость доступа - расти. Рынок буквально принуждает учиться работать с легковесными моделями. И ключевой навык сегодня - не способность оплачивать самый жирный тариф, а умение выстроить процесс так, чтобы условный Flash или Haiku выдавал результат уровня тяжелой сетки. Четкая декомпозиция, правильная подача контекста и пошаговое ведение задачи значат куда больше, чем статус модели в бенчмарках. Если посчитать годовую экономику, расклад простой: - Держать тяжелый тариф на постоянке - это около $1200 в год. - Сидеть на базовом уровне - в районе $200. Разница - целая тысяча долларов. Вместо того чтобы отдавать ее провайдерам за иллюзию того, что дорогая модель сделает работу за вас, куда разумнее инвестировать эту сумму в себя. Например, взять качественное обучение по системной работе с ИИ, разобраться в архитектуре промптинга и автоматизациях. Потому что специалист, умеющий грамотно дирижировать легкими моделями, в реальной работе всегда будет быстрее и продуктивнее того, кто просто сжигает дорогие лимиты. Такой подход - это не адопшн, с прижигание бюджета, будь это личные или корпоративные расходы

PDMD Метод дистилляции видео-диффузии в 4 шага от ByteDance. Убирает артефакты учителя одной строкой проекции — фильтрует ошибку студента без доп. сетей и проходов. Улучшает классический DMD: проектируешь вектор обновления перпендикулярно остатку студент-критик, отсекая ошибку критика. • Генерация видео за 4 и даже 2 шага инференса • Дистилляция MiniMax-H3-33B до 4 NFE • Одна строка проекции подавляет ошибку критика • Ничего лишнего: без вспомогательного loss, сетей и доп. проходов • MiniMax-H3-33B: 1344×768, 345 кадров, 4 сети-вызовов • Также вариант на 2 NFE • Лучший результат среди 4-шаговых методов на метриках качества и динамики Готовые ComfyUI-версии для #MiniMaxH3 на HF github.com/ZeamoxWang/pdmd huggingface.co/Iwannapose/minimax_h3_pdmd_4nfe_comfyui huggingface.co/Iwannapose/minimax_h3_pdmd_2nfe_comfyui #optimization MAX

Накопилось по #minimaxH3 - часть 30 github.com/Speach1sdef178/ComfyUI-VDN-H3-24GB - VDN-H3-24GB v1.1.0: чинит проблемы памяти и улучшает следование промпту github.com/DJBFilmz/ComfyUI-DJBFilmz-H3 - DJBFilmz: склейка клипов H3 одной нодой github.com/einhorn13/mmh3_media - MMH3_Media: упаковывает видео и аудио H3 в ComfyUI github.com/StanLukuvka/ComfyUI-MiniMax-H3-SPEED - SPEED: разбивает сэмплирование на части для ускорения github.com/Dantemss/ComfyUI-H3-Modality-Lora-Loader - раздельное применение LoRA к аудио и видео дорожкам H3 github.com/NikoDemon80/ComfyUI-FastH3-Lora-Converter - FastH3 превращается в простую LoRA github.com/nazgut/ComfyUI-MiniMaxH3-CLSS - CLSS: 16GB ПК в AI-медиа-студию github.com/TootsThielemans/ComfyUI-MMH3-Preset-Controller - переключение групп нод в один клик github.com/Zironic/H3-Optimizations - оптимизации: меньше памяти, быстрее генерация huggingface.co/xmarre/MiniMax-H3-Pruned-Ref-Delta-Fused-r1024-ComfyUI - прунинг-мерж: резко снижает требования к памяти github.com/halnovemil/H3TiledLoopSpaceTime - бесшовные зацикленные видео для H3 MAX

Решающие модели (System 1) #decision #rlcd huggingface.co/orcarouter/OrcaSAQ-2-27B - OrcaSAQ2 27B: высокоточный reasoning в файле 12.3GB huggingface.co/orcarouter/OrcaSAQ-2-Cyber-27B-Uncensored-GGUF - OrcaSAQ2 Cyber: без цензуры, 15.7GB huggingface.co/akhilaaa3/Jev-Omni - Jev-Omni: решения по тексту, картинкам, аудио и видео разом huggingface.co/fastino/GLiNER2.5-Decide - GLiNER2.5-Decide: оценка любого набора меток за один проход, без генерации токенов huggingface.co/SupersonicLabs/Julia-1 - Julia 1: 144M параметров, контекст → чёткие решения huggingface.co/Contrastive-LM/CLM-v0.1-8B - CLM-v0.1-8B: вместо медленных верификаторов — эмбеддинги состояний и действий Скорость и кванты #optimization #gguf #dflash huggingface.co/harshatheg/Qwen-2.5-1B-RLCD - RLCD: извлекает структурированные данные в 7 раз быстрее на Apple Silicon huggingface.co/z-lab/Qwen3.8-27B-DFlash2 - Qwen3.8-27B DFlash2: ускоренная генерация (drafter-модель) huggingface.co/sirus/Qwen3.8-27B-heretic-ara-MXFP6-MXFP8-DFlash2-GGUF - новый формат кванта MXFP6/MXFP8 + DFlash2: быстрее инференс huggingface.co/Edge0/Edge0-35B-A3B-preview - Edge0-35B-A3B: модель «телефонного» класса, работает в 3 GiB памяти Агенты и инструменты #agent #toolcalling huggingface.co/XingChen-AGI/Xing4.0-29B-A4B - Xing4.0-29B-A4B: агентные задачи на Ascend NPU, контекст 256K huggingface.co/TokenRhythm/NeoHorse-1-4B - NeoHorse-1-4B: роутинг-обвязка, прокачивает Qwen3.5-4B huggingface.co/apodex/Apodex-1.1-mini-GGUF - Apodex-1.1-mini: агентные задачи по файлам и данным huggingface.co/nex-agi/Nex-N2.5-Pro - Nex-N2.5-Pro: агент для кодинга и работы с компьютером huggingface.co/nex-agi/Nex-N2.5-mini - Nex-N2.5-mini: длинные агентские задачи с vision-обратной связью github.com/ortegaalfredo/ngram-knowledge-injector - инжектор фактов в память Qwen3.8 через n-gram huggingface.co/TheOneWhoWill/Coding-Monkey-Gemma-GGUF - Coding-Monkey: локальная модель с сильными тул-коллами huggingface.co/pipecat-ai/phonellm-alpha-1 - phonellm: держит телефонных агентов в рамках диалога Мультимодальность и контекст #multimodal huggingface.co/deepseek-ai/DeepSeek-V4-Flash-Vision-Exp - DeepSeek-V4-Flash Vision Exp: экспериментальный мультимодальный вариант huggingface.co/Agnes-AI/Agnes-2.5-Pro-Alpha - Agnes-2.5-Pro: рассуждения на миллион токенов github.com/QLNI/SHADOW-250M-Instruct - SHADOW-250M: архив 100M токенов ужат до 60MB файла Код и всякое #coding huggingface.co/ornith-ai/Ornith-1.5-9B - Ornith-1.5-9B: #reasoning и кодинг на одной GPU huggingface.co/ornith-ai/Ornith-1.5-35B-A3B-GGUF - Ornith-1.5-35B-A3B: GGUF под локальных кодинг-агентов huggingface.co/openbmb/MiniCPM5-2B - MiniCPM5-2B: карманная модель, кодит и рассуждает huggingface.co/IFM/K2-Horizon-MoVA-36B-A4B - K2-Horizon-MoVA: 36B всего, активно 4B huggingface.co/XHToken/Spark-X2.5-4B - Spark-X2.5-4B: компактная универсальная 4B (гибридное внимание, 1M контекст) #compact huggingface.co/thesysdev/OUI-1 - OUI-1: диффузионная генерация UI-экранов за ~секунду #gui huggingface.co/LessThanThreeAI/Qwen3.8-27B-Humanlike-Chat-GGUF - Humanlike-Chat: живой, реалистичный ролеплей huggingface.co/TheDrummer/Artemis-31B-v1.1 - Artemis-31B: креативное мышление поверх Gemma 4 Chat huggingface.co/OBLITERATUS/Qwen3.8-27B-OBLITERATED - Qwen3.8 27B полностью без цензуры #uncensored huggingface.co/superwhisper/s1-mini - S1-mini: превращает неразборчивую речь в текст #ASR

🧠 ИИ лучше улучшает агентов, когда развивает несколько специализаций Исследователи предложили новый подход к оптимизации harness: кода вокруг LLM, который управляет инструментами, поиском информации и проверкой ответов. Обычно ИИ переписывает эту обвязку и оценивает версии на одном наборе задач. Но полезная специализация может потеряться, если проигрывает по общему баллу. Авторы разделили поиск на две ветки: • Каждая сохраняет задачи, с которыми справляется лучше другой. • Ведёт собственные заметки об удачных изменениях. • Развивает свою стратегию решения. В математике одна ветка сосредоточилась на проверке ответов, другая на построении полных решений. Затем роутер выбирает подходящую обвязку для каждой новой задачи. 📈 На олимпиадной математике с Gemini 3 Flash точность выросла с 46% до 62%. Это +16 процентных пунктов. Подход превзошёл исходный метод во всех четырёх проверенных сочетаниях моделей и бенчмарков, хотя расход токенов был выше. Практическая идея: при автоматической настройке агентов стоит сохранять несколько сильных специализаций и подбирать их под задачу. 📄 Исследование: [https://arxiv.org/abs/2609.37834](https://arxiv.org/abs/2609.37834)

Как мы с дружбаном сэкономили $1800/мес на google cloud В посте про followthrough я показывал, как мы оценивали результаты оптимизации в google cloud —> это была часть работы, которая шла несколько недель. Результат - на 40% снизили затраты на google cloud (см аттач) Собственно, по мотивам сделал скилл - вдруг и вам такое надо :) Главный урок:

Мерить расходы в облаке сложнее, чем их резать o__O.

Идеи-то все известные: выключить простаивающее, уменьшить раздутое, удалить забытое. А вот, к примеру: 1) настроить выгрузку в bigquery, чтобы видеть нормальную детализацию, 2) адекватно замерять простаивающее и неиспользуемое, когда у вас работающая инфрастурктура (тест, стейдж, прод) с вариативной нагрузкой 3) аккуратно накатывать эти изменения, при этом ничего не сломав, и откатывать, если не помогло (см followthrough как раз) В общем, пользуйтесь + скилл предусматривает настройку регулярных чеков - я себе поставил раз в 2 недели: https://github.com/BayramAnnakov/gcp-cost-review

Исследователи из Meta* предложили дать моделям полный контроль над собственным контекстом Обычно контекст агента устроен довольно просто: старый контекст + новый ответ -> новый контекст. История постепенно растет, а когда становится слишком большой, ее приходится отдельно сжимать или чистить. В Context Language Models (CLM) авторы предлагают вообще убрать заранее заданную логику управления контекстом и дать модели возможность самой переписывать собственную историю. Технически весь текущий контекст хранится в обычном файле, к которому у модели есть доступ через Bash. Она может в любой момент удалить ненужные сообщения, заменить большой кусок истории короткой заметкой, сохранить важный результат дословно или полностью перестроить содержимое. После каждого изменения файл становится новым контекстом модели. При этом никаких правил о том, как именно управлять историей, модели не дают. В экспериментах агенты сами начинали заводить внутри контекста пометки, писать функции для удаления старых результатов поиска и собирать компактные таблицы с состоянием других агентов. Например, в одном из тестов модель за 163 редактирования удерживала рабочий контекст в пределах 6–8K токенов. Авторы пошли дальше и попробовали отдельно обучить модель этому навыку через RL. После обучения Qwen3.5-9B на BrowseComp-Plus выросла с 28.8% до 42.5%, при этом на вычисления ушло на 38.8% меньше, чем у обученного тем же способом бейзлайна с обычной суммаризацией. Произвольное редактирование контекста, правда, ломает обычное кеширование. Если изменить что-то в середине истории, все состояния после этого места формально приходится считать заново. Для этого авторы сделали Suffix Cache Reuse: для неизменившихся частей контекста продолжают использовать старый KV-cache, даже если текст перед ними поменялся. В экспериментах это сократило серверные вычисления еще примерно на 35% без заметной потери качества. На длинных задачах разница становится уже довольно большой. На 12-часовом EdgeBench CLM получил на 5% больше баллов при сокращении объема вычислений на 59%. В 24-часовом тесте на оптимизацию кода CLM при том же вычислительном бюджете показал на 65% лучший результат, чем бейзлайн. И все это работает поверх обычных LLM, без изменения архитектуры самой модели. Код | Статья

Выйди правильно и зайди! Кейс Bending spoons Вы не просили, а я обещал, на самом деле в посте про Миро наткнулся на интересную бизнес модель. Перекупание бизнеса на стагнирующем рынке. Так вот, сегодня поговорим о Bending Spoons (источники статьи вот тут) Бендинг - итальянская компания, которая покупает «уставшие», но известные цифровые продукты и превращает их в высокомаржинальный бизнес. Её главный продукт - не Evernote, Vimeo или WeTransfer. Главный продукт - машина по извлечению ценности из уже существующих пользователей, брендов и денежного потока. В целом, это, пожалуй, самый честный анти-стартапный кейс последних лет.

Пока одни годами ищут product-market fit, итальянцы покупают приложения, у которых он уже когда-то случился: Evernote, WeTransfer, Meetup, Eventbrite, Vimeo, AOL. Без амбиции сделать нечто великое, они берут то, что когда-то работало и извлекают из этого прибыль.

Наброки схемы Схема неприлично простая. Купить знакомый бренд с лояльной аудиторией и стагнирующей выручкой. Сократить раздутую команду. Переписать критичные части продукта. Перенести клиентов на подписку. Поднять цены в 2–4 раза. Запустить сотни ценовых и продуктовых экспериментов. Затем весь высвободившийся кэш отправить в следующую сделку. • У Evernote команда после покупки сократилась с 341 до 60 человек, но частота релизов выросла: примерно на 50% в 2023-м и вдвое в 2024-м. • У StreamYard количество новых регистраций выросло на 142% при снижении рекламных расходов на 11%. Самый неприятный инсайт для продуктовых команд: Штат не равен выхлопу! Большая команда часто производит не больше продукта, а больше согласований, слоёв менеджмента и встреч о встречах. Bending Spoons держит команды маленькими, использует общий набор инструментов для аналитики, платежей, экспериментов и найма - и перебрасывает сильных людей туда, где максимальный эффект. Их преимущество не в самой идее «купить, оптимизировать, поднять цену». Это может повторить почти любой. Преимущество - в платформе: людях, данных и внутреннем наборе инструментов, который ускоряет перезапуск каждого следующего актива. Их модель ещё и финансово красива: Bending Spoons покупает зрелые активы дешево - примерно за 1–3 годовые выручки в ряде сделок, - а сам рынок оценивает группу примерно в 12 годовых выручек. То есть ценность создаётся дважды: сначала через сокращение издержек, цены и продукт, а затем через «переоценку» того же евро выручки внутри более дорогой платформы. Для продакта урок не в том, чтобы увольнять людей и поднимать прайс. Урок в другом: бизнес становится дорогим, когда у него есть предсказуемая повторяющаяся выручка, контролируемая экономика, собственные данные и способность системно улучшать продукт без пропорционального роста команды. Делайте бизнес лучше, а не только метрики Ваш @blackproduct

Уволенные из-за ИИ разработчики создали ИИ, способный заменить гендира и других топ-менеджеров Разработчики, которых уволили в рамках «трансформации с помощью ИИ», создали открытую систему OpenExecutive для имитации работы гендиректора и топ-менеджеров. Она объединяет руководителя-агента и восемь виртуальных специалистов, анализирует документы компании, запоминает решения и предлагает дальнейшие шаги. Проект распространяется по лицензии Apache 2.0 и задуман одновременно как рабочий инструмент и сатира на корпоративный ИИ-ажио́таж. Авторы признают, что система пока лишь советник: юридическую ответственность и последствия решений всё равно несут люди. При этом эксперимент показывает, что если ИИ может заменить часть работы сотрудников, то под такой проверкой рано или поздно окажутся и руководители. #увольнения #оптимизация #виртуальныйдиректор #искусственныйинтеллект 📎Подробнее 🔖 3DNews в TG | MAX | VK

Цена успеха в прямых затратах Прямые затраты — основа себестоимости любого бизнеса. Это зарплаты, аренда, сырьё, оборудование — всё, что напрямую влияет на прибыль. Контроль этих расходов помогает компаниям укрепить финансовую устойчивость и повысить эффективность. Первый шаг — переговоры с поставщиками. Надёжное партнёрство ценно для обеих сторон, поэтому договорённость о более выгодных условиях или долгосрочных поставках часто оказывается реальной. Второй шаг — контроль инвентаря. Рациональное управление запасами предотвращает заморозку средств в неиспользуемом оборудовании и материалах. Третий шаг — оптимизация эксплуатационных расходов. Регулярный анализ затрат на связь, энергопотребление и сервисные услуги позволяет снизить общие издержки без ущерба для качества. Умение грамотно управлять прямыми расходами — это инструмент роста, а не сокращений. Фаундер | Бизнес и Стартапы