На неделе DeepSeek выложили DeepInfer, свой код для инференса DeepSeek v4.1 Flash. Там же они написали, что на их кластере при их копеечных ценах получается выручка примерно в $38 в час на одну видеокарту. И это по ценам в часы не пиковой нагрузки. $38 на карту в час — это очень много. Из репозитория мы узнали, что инференс происходит на картах Blackwell (для предыдущего поколения, Hopper, поддержки нет), и их цена в аренду на рынке сейчас примерно $6-10 за час. У SemiAnalysis выходили похоже цифры в их бенчмарке моделей, с утилизацией (загрузкой запросами) на 60% и при 125 токенах в секунду по ценам OpenRouter получалось примерно 50 долларов в час на карту, они использовали GB300, которая в аренду стоит примерно $11 — то есть $39 это уже маржа. И ещё раз, это речь про одну из самых дешёвых моделей по смешным ценам. Evan Conrad, CEO SF Compute (стартап по продаже мощностей), написал блогпост «Конец стартапов»: — в течение следующих 6 месяцев большинство ИИ-стартапов не смогут приобрести вычислительные мощности. Мировые вычислительные ресурсы распроданы. — На момент написания статьи, вы можете арендовать B300 за 6 долларов в час (прим.: сильно ниже упомянутых выше $11), а затем зарабатывать около 30 долларов в час, продавая на нем инференс. Это неплохая прибыль, но ничто не мешает другим использовать эту прибыль для арбитража. Мы ожидаем роста цен на графические процессоры, а это значит, что прибыль от инференса снизится. Снижение прибыли означает, что станет сложнее получить более высокий кредитный рейтинг. В целом картина понятна, и случится так или нет полностью зависит от дальнейшего роста спроса на токены. Если продолжится темпами первой половины 2026-го, то действительно почти все GPU будут выкуплены под перепродажу токенов, и арендовать карту меньше чем за, скажем, $30 в час просто не получится. Многие стартапы не смогут вести разработку или предоставлять свои услуги при такой себестоимости мощностей. А Anthropic и OpenAI могут с единицы мощностей извлекать ещё больше долларов, так что при росте спроса на их модели они начнут выкупать и более дорогие GPU — Anthropic вон арендует у Elon Musk датацентр за цену гораздо выше рыночной (на тот момент), просто потому что для них это всё ещё выгодно. В пределе крупные компании смогут выдавить и большое количество перекупщиков мощностей под опенсурс. Случится так или нет — узнаем в следующей серии.

Вероятно, Nvidia Blackwell попадёт в Китай в виде графических адаптеров RTX Pro 5500 Китайские власти могут разрешить компаниям закупать профессиональные видеокарты Nvidia RTX Pro 5500 на архитектуре Blackwell. Регуляторы уже запросили у бизнеса планы закупок и объяснения, как будут использоваться эти ускорители. RTX Pro 5500 оснащена 21 760 ядрами CUDA и 84 ГБ памяти, поэтому может пригодиться не только для рабочих станций, но и для задач искусственного интеллекта. Теперь всё зависит от реакции США, которые пока не хотели снимать ограничения на поставки чипов Blackwell в Китай. #nvidia #blackwell #rtxpro5000 #китай 📎Подробнее 🔖 3DNews в TG | MAX | VK

Nvidia Blackwell - главный создатель всех ИИ Компания Nvidia долгие годы была лидером в плане видеокарт для игр, затем случился биткоин, а в последние годы - бум ИИ. И компания Дженсена Хуанга каждый раз принимала эти вызовы и трансформировалась. Сегодня это ключевой игрок для обучения и создания нейросетей. Но трансформировалась не только компания, но и ее продукты. Теперь это не видеокарты, а полноценные процессоры для ИИ под названием Blackwell. Разобрались с тем, что внутри Nvidia Blackwell, какие технологии используются в этом чипе, как они масштабируются и как объединить несколько десятков видеокарт в единый кластер NVL72? Зачем в дата-центре для ИИ от Nvidia - нужен отдельный водопровод? Смотреть в YouTube — https://youtu.be/dBXGFOWwR2U @droidergram