DeepSeek открыла движок DeepInfer для запуска V4.1 Flash
Н@navuka_i_jiznAI-инженер
1 недDeepSeek выложила DeepInfer в открытый доступ: движок для V4.1 Flash работает на NVIDIA и Huawei Ascend, а пост приводит оценки пропускной способности и выручки.
Открытый движок может дать большему числу провайдеров возможность запускать модель DeepSeek, а не только самой компании.
- Пост сообщает, что DeepInfer теперь доступен другим провайдерам.
- Движок, как утверждается, работает на ускорителях NVIDIA и Huawei Ascend.
- Приведённые в посте показатели выручки и производительности могут повлиять на оценку экономики запуска моделей.
🐳 DeepSeek выложили в открытый доступ свой движок DeepInfer (https://x.com/deepseek_ai/status/2112476496283775135) — тот самый, на котором в продакшене крутится V4.1 Flash. Простыми словами: веса модели открыты давно, но быстро и дёшево запускать её умела только сама DeepSeek, а теперь сможет любой провайдер. Работает на NVIDIA и китайских Huawei Ascend, что заметно бьёт по монополии NVIDIA 🎩 Самое громкое — цифры, которые всплыли вместе с релизом: 155 трлн токенов в день на одном кластере и $38 выручки с одной видеокарты в час, при аренде H100 около $3. На Hacker News уже спорят, что это значит для американских лабораторий с их триллионными оценками 🕺
P.S.
Пока Anthropic и OpenAI продают подписки, DeepSeek раздаёт и модель, и движок, и всё равно зарабатывает. Похоже, «ИИ работает в убыток» — не про всех 🌚
Кратко (AI)
DeepSeek открыла доступ к движку DeepInfer, на котором, по посту, работает V4.1 Flash в продакшене. Утверждается, что движок поддерживает NVIDIA и Huawei Ascend; вместе с релизом приводятся оценки пропускной способности и выручки на видеокарту.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖