DeepSeek выпускает модель v4.1 Flash с новой архитектурой
P@pppromptAI-инженер
1 месDeepSeek представили модель v4.1 Flash с архитектурой Causal Encoder-Decoder и агрессивной ценовой политикой, вызвав дискуссии о подмене моделей в API.
Новая архитектура DeepSeek позволяет значительно снизить стоимость работы с большими базами знаний.
- Снижение затрат на обработку длинного контекста и баз знаний.
- Использование архитектуры с разреженной активацией параметров повышает скорость и экономичность.
- Практика скрытой подмены моделей в API вызывает вопросы о прозрачности сервисов.
Вокруг выпуска DeepSeek v4.1 Flash сегодня развиваются два сюжета:
1. Дерзкий ход компании - с 14 сентября, пока "полная" модель Deepseek v4.1 Pro не готова, все запросы пользователей к Pro будут тихонечко отправляться на v4.1 Flash (и по цене Flash). На HackerNews ожидаемо жарко: кто-то кричит "нельзя подменять модель под капотом, вы че?", кто-то резонно отвечает "модели и так недетерминированы, вы никогда точно не знали, что получаете".
2. Инженерный ход. У модели новая архитектура Causal Encoder-Decoder. При размере модели в 552B параметров, обработка входного запроса реально включает только 8B, для генерации ответа - уже 16B. Экономия в памяти на токен в 437 раз по сравнению с первой версии DeepSeek (если помните, она всех порядком удивила).
Если вы уже перешли при работе с AI на длинный контекст, цепочки разных вызовов, есть база знаний - то это идеалити. В память влезает на порядки больше диалогов одновременно, за меньшие деньги.
Цены: $0.003 (!) за 1M токенов на cache hit, $0.15 - на miss, $0.6 - за output. Нот бэд, как говорится.
Что вы сами думаете про скрытое переключение модели - ок это или нет? И думаете ли про v4.1 flash для своей базы знаний / personal OS?
Кратко (AI)
Компания DeepSeek представила модель v4.1 Flash, использующую архитектуру Causal Encoder-Decoder для повышения эффективности. Компания временно перенаправляет запросы к Pro-версии на Flash-модель, что вызвало споры в сообществе, при этом заявленная стоимость обработки токенов значительно снижена.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖