DeepSeek открыла DeepInfer для запуска V4.1 Flash
F@FuturisAI-инженер
1 недDeepSeek выложила DeepInfer в открытый доступ: движок для V4.1 Flash работает на NVIDIA и Huawei Ascend; пост приводит данные о пропускной способности и выручке.
Если сторонние провайдеры смогут эффективно запускать эту модель, у компаний появится больше вариантов для создания ИИ-сервисов.
- DeepInfer стал доступен не только самой DeepSeek.
- По посту, движок работает на NVIDIA и Huawei Ascend.
- Приведённые цифры указывают на возможную экономику запуска, но сам пост не объясняет методику их расчёта.
🐳 DeepSeek выложили в открытый доступ свой движок DeepInfer (https://x.com/deepseek_ai/status/2112476496283775135) — тот самый, на котором в продакшене крутится V4.1 Flash. Простыми словами: веса модели открыты давно, но быстро и дёшево запускать её умела только сама DeepSeek, а теперь сможет любой провайдер. Работает на NVIDIA и китайских Huawei Ascend, что заметно бьёт по монополии NVIDIA 🎩 Самое громкое — цифры, которые всплыли вместе с релизом: 155 трлн токенов в день на одном кластере и $38 выручки с одной видеокарты в час, при аренде H100 около $3. На Hacker News уже спорят, что это значит для американских лабораторий с их триллионными оценками 🕺
P.S.
Пока Anthropic и OpenAI продают подписки, DeepSeek раздаёт и модель, и движок, и всё равно зарабатывает. Похоже, «ИИ работает в убыток» — не про всех 🌚
Кратко (AI)
DeepSeek открыла доступ к движку DeepInfer, на котором, по утверждению поста, в продакшене работает V4.1 Flash. В посте говорится о поддержке NVIDIA и Huawei Ascend, а также приводятся цифры пропускной способности кластера и выручки с видеокарты.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖