А вот Илон Маск решил объявить, что бот Grok в ближайшее время начнет использовать любую модель, если она подходит для выполнения задачи, будь-то Opus 5.5, MidJourney, или даже Suno, в общем, все ведущие API. В реплаях тут же спросили — "Даже GPT?". Короткий твит, конечно, ничего не говорит об условиях — будет ли входить это использование в каком-то количестве в подписку, или надо подключать свои ключи. Но показательно — особенно рядом с сообщением о планируемом размещении облигаций SpaceX на 40 млрд долларов для закупки карт Nvidia. Красноречиво свидетельствует о том, что Маск не оставляет надежды закидать проблему отставания от frontier labs деньгами в любой форме — либо кучей видеокарт, либо токенами сторонних сервисов. https://www.theinformation.com/briefings/musk-says-spacex-will-sometimes-use-rival-models-power-grok-bot?rc=ukjmk2

🌟 SGLang научил чат-модели отвечать вероятностями Команда открытого движка инференса SGLang добавила эндпоинт /v1/decisions, который превращает обычную чат-модель в модель для принятия решений. Второй эндпоинт, /v1/systemone, отдаёт те же решения в формате System One API, который TypeSafe AI представила 19 сентября вместе со своей моделью Jev. API поддерживает выбор из 2–26 вариантов (до 255 с двухбуквенными метками), оценку по шкале из 2–10 уровней и вопрос «да или нет». SGLang присваивает каждому варианту метку из одного токена - буквы для выбора, цифры для оценки, yes и no для бинарных вопросов. Затем движок читает логарифмические вероятности следующего токена по всему словарю и переводит их в вероятности через софтмакс с учётом температуры.

Отсюда ограничение - метка обязана укладываться в один токен в позиции ответа.

Решение принимает один вход без истории диалога, а вероятности у холодного запроса и у запроса из префиксного кэша могут расходиться на несколько сотых. Для демонстрации SGLang заставил Qwen3.8-27B играть в Pokémon FireRed. Модель по текущему состоянию игры выбирала между атакой, сменой покемона и лечением меньше чем за 100 мс на решение и прошла Элитную четвёрку и чемпиона. Функция доступна в nightly-сборках SGLang из основной ветки. Её проверили на Qwen3.8-27B и Qwen3.5-35B-A3B, другие модели подойдут, если метки ответов укладываются в один токен. Примеры запросов и описание формата есть в документации SGLang. @ai_machinelearning_big_data #news #ai #ml

😩 OpenAI только что кинули меня на 15 баксов. Оказывается, когда вы пополняете баланс API, вы не просто кладёте деньги на счёт, а покупаете кредиты. И действуют они всего год. 🤦‍♂️ То есть моя гениальная тактика «один раз закинуть дофига денег и потом несколько лет понемногу их тратить» здесь тупо не работает. 🤬 Сегодня у меня внезапно посыпались ошибки в моих продуктах: запросы не проходят, баланс API нулевой. Пошёл проверять — действительно нулевой. Начал разбираться. Оказалось, что оставшиеся у меня там 17 с копейками баксов просто сгорели, потому что с момента пополнения прошёл год. 😡 Всё. Были деньги — нет денег. Я даже не знаю, как к этому относиться. 🤷‍♂️ Но у меня очень горит жопа. С хера ли я не могу пользоваться деньгами, которые уже закинул? Не попадайтесь на эту удочку: не закидывайте деньги на API сильно впрок. Видимо, нормальная тактика — настроить автопополнение и докидывать понемногу по мере расхода. 🫠 Свята место | 10МДК | YHub

Seedance NSFW Похоже мы имеем дело не с ТОЛЬКО с отдельной порнографической моделью ByteDance, но и с куда более интересной схемой. Попросил друга исследовать вопрос подробно. Получилось для гиков. Спойлер: да, есть порно-сиданс-модель, см пункт 8. Но только для энтерпрайза. Для остальных - пункт 9 и чтение простыни. Итак. 1. BytePlus действительно позволяет отключать часть модерации В официальном ModelArk есть Content Filter. Он проверяет вход и выход модели, в том числе категории Nudity и Sexual Content. И этот фильтр владелец inference endpoint (API провайдер) может отключить. То есть у BytePlus safety - это не один намертво вшитый фильтр. Есть как минимум отдельный конфигурируемый слой модерации. Но даже после его отключения остаются базовые safety policies самой платформы. 2. Значит ли это, что Seedance становится полностью uncensored? Не совсем. У BytePlus фактически два уровня: входной Content Filter -> генерация Seedance -> output/model moderation. Первый слой можно ослабить или отключить. Второй частично остаётся. Поэтому правильнее говорить не «uncensored Seedance», а «Seedance с менее строгой конфигурацией moderation». 3. Самая интересная находка - Ofox Ofox вообще не создаёт отдельную модель seedance-2.5-nsfw. У них модель остаётся обычной: bytedance/seedance-2.5 Но можно выбрать provider: volcengine или byteplus И в документации прямо указано, что Volcengine использует обычную строгую moderation, а BytePlus route допускает контент категории not-for-all-audiences / NSFW. То есть модель одна и та же. Меняется только маршрут. 4. А другие API просто прячут эту схему под отдельным model ID (но это не модель, а маршрут) Например, Modelflare показывает: seedance-2.5 и seedance-2.5-nsfw При этом у них одинаковые API endpoint, параметры, длительность, разрешения, reference workflow и общая схема вызова. Фактически меняется только model ID. Очень похоже, что -nsfw здесь - просто alias, который внутри выбирает другой provider или другую moderation configuration. 5. MeToken даёт ещё более интересный пример В их документации есть реальный ответ API: model: seedance-2-5-nsfw и одновременно: provider: byteplus То есть пользователь вызывает якобы отдельную NSFW-модель, а дальше запрос уходит именно в BytePlus. Это прекрасно укладывается в схему: клиент -> API-агрегатор -> NSFW alias -> специальный BytePlus route -> обычный Seedance. 6. Поэтому реальная архитектура, скорее всего, выглядит примерно так Для озабоченных нищебродов Seedance один. Для бизнеса - другая история и цены. А дальше есть разные способы его употребления: Volcengine route -> более строгая moderation. BytePlus route -> другая moderation policy. Внутри BytePlus ещё может быть отключаемый Content Filter, entitlement аккаунта и другие настройки. А агрегаторы превращают всё это в красивые названия: seedance-2.5 seedance-2.5-official seedance-2.5-nsfw seedance-2.5-self-developed seedance-2.5-self-developed-nsfw И это вовсе не обязательно пять разных чекпойнтов. Это вполне могут быть пять presets одной инфраструктуры. 7. А что с Moderation.Strategy = Skip Вот здесь важное уточнение. Официально BytePlus подтверждает возможность отключения Content Filter. А несколько интеграторов BytePlus документируют ещё параметр: Moderation.Strategy = "Skip" который позволяет пропустить большую часть дополнительной pre-moderation. Причём у некоторых API этот режим доступен не всем и может возвращать ошибку вроде: moderation_skip_not_allowed То есть очень похоже, что тут существует отдельный entitlement для определённых клиентов. Но я пока не нашёл текущую публичную страницу BytePlus API Reference, где этот Strategy=Skip был бы прямо задокументирован самой BytePlus для всех пользователей. Поэтому: отключаемый Content Filter - подтверждено самим BytePlus. Moderation.Strategy=Skip - подтверждается интеграторами. Доступность Skip всем клиентам - не подтверждена. 8. Настоящий порно-доступ к непотребной модели Сиданса. Если очень надо, нужно связываться с BytePlus, иметь компанию и получать отдельный B2B access. Подтверждено подписчиками. 9. И всё это можно довольно ловко проверить экспериментально самому Ofox позволяет взять одну и ту же модель: bytedance/seedance-2.5 один и тот же prompt, те же reference, те же duration/resolution, и поменять только: provider = volcengine на provider = byteplus Если первый маршрут даст moderation rejection, а второй примет идентичный запрос, то мы фактически получим A/B-тест, показывающий, что различие находится в serving route и safety stack, а не обязательно в весах самой модели. На итоге: Существование более непотребного маршрута Seedance через BytePlus уже подтверждается сразу несколькими независимыми API-провайдерами и частично самой документацией BytePlus. Ссылки для экспериментов: https://ofox.ai/docs/api/videos/provider-routing https://ofox.ai/models/bytedance/seedance-2.5 https://docs.byteplus.com/en/docs/modelark/Content_Pre-filter https://ai.byteplus.com/en/help/article/why-was-my-request-rejected-for-sensitive-or-non-compliant-content-and-how-do-i-reduce-false-rejections https://docs.byteplus.com/pt/docs/legal/acceptable_use_policy_byteplus_genai https://docs.modelflare.dev/models/video/seedance-2-5-nsfw/ https://docs.modelflare.dev/models/video/seedance-2-5/ https://metoken.ai/docs @cgevent

Comfy Router Один API для моделей - картинки, видео, 3D и аудио. Интегрируешься один раз, провайдера выбираешь под каждую задачу: где дешевле, где скорость, где лимитов нет • явный роутинг - назвал провайдера, он и работает, без тихого фолбэка • каждый джоб возвращает, кто его выполнил - для логов и биллинга • async submit() - сразу получаешь ID, очередь сама ретраит 429 • батчи на сотни задач, результаты тянешь по готовности • смена провайдера - одна строка, без нового SDK • Comfy, Runware, WaveSpeed, Fal, Higgsfield на старте • Seedance 2.5, MiniMax H3, Nano Banana Pro, GPT Image 2, Kling, BFL • без подписки - обычные комфи-кредиты • 24 часа хранения входов и выходов По форме - OpenRouter для генеративных медиа. Модель на нескольких провайдерах переключается параметром Собственно роутер #router #comfyui MAX

Ну, за Hy. Новый генератор картинок подоспел. Tencent бахнула Hy Image 3.5 Preview. И самое интересное здесь вовсе не их рекламные «+30% качества». Главная фишка версии 3.5 - следование (очень хорошему) тренду делать редактирующую модель и зашивать все это под один капот. Модель умеет text-to-image и image-to-image, принимает несколько reference images и поддерживает последовательное редактирование в несколько ходов. Переодеватор, переосвещатор, переракусатор - и вот это вот все. Tencent отдельно заявляет улучшения в typography, layout, product photography, реализьме материалов и света и, главное, consistency при редактировании (надо тестить). Цена при этом очень агрессивная: $0.024 за 2K output через Tencent Cloud API. Reference images отдельно не тарифицируются - платишь за сгенерированный результат. В принципе можно ожидать кода и весов, 3.0 опенсорснут, правда там конские размеры весов и никакого редактирования. Есть любопытный нюанс с разрешением. В официальном анонсе Tencent пишет «до 2K», однако свежая API-документация допускает запросы вплоть до 4096x4096. При этом опубликованная цена $0.024 относится именно к 2K. Теперь про обещанные «две недели бесплатно». Miora даёт доступ к Hy Image 3.5 Preview в своём интерфейсе. В анонсе указана бесплатная акция примерно на две недели после релиза. Это самый простой вариант для тех, кто просто хочет попробовать модель без возни с API. https://miora.design/ OnSolo тоже участвует в акции, но здесь условия сложнее. Бесплатные поколения завязаны на membership и лимиты конкретного тарифа. То есть фраза Tencent «Two weeks free» не означает полностью бесплатный безлимитный доступ для любого нового пользователя. https://onsolo.ai/ Xy 3.5 довольно хорошо сохраняет надписи и структуру. Модель меняет фон и свет, при этом удерживает сам продукт, упаковку, цвет и текст на этикетке. Реализьм достойный. Ещё один важный момент - ComfyUI уже объявил Day-0 support. Но это не означает, что веса Hy Image 3.5 можно скачать и запускать локально. Сейчас речь идёт об API/Partner Node интеграции. На итоге: multi-reference editing + многошаговое редактирование + сохранение контекста + хороший текст и product photography + цена $0.024 за 2K. И я бы рассчитывал на веса. Сцылки: https://x.com/TencentHunyuan/status/2102226552310419473 https://console.tencentcloud.com/tokenhub/models/detail?modelId=hy-image-v3.5-preview https://cloud.tencent.com/document/product/1823/135745 https://miora.design/ https://onsolo.ai/ @cgevent