← к ленте

DeepSeek выпускает модель v4.1 Flash с новой архитектурой

P@pppromptAI-инженер
1 мес

DeepSeek представили модель v4.1 Flash с архитектурой Causal Encoder-Decoder и агрессивной ценовой политикой, вызвав дискуссии о подмене моделей в API.

Новая архитектура DeepSeek позволяет значительно снизить стоимость работы с большими базами знаний.

  • Снижение затрат на обработку длинного контекста и баз знаний.
  • Использование архитектуры с разреженной активацией параметров повышает скорость и экономичность.
  • Практика скрытой подмены моделей в API вызывает вопросы о прозрачности сервисов.
Вокруг выпуска DeepSeek v4.1 Flash сегодня развиваются два сюжета: 1. Дерзкий ход компании - с 14 сентября, пока "полная" модель Deepseek v4.1 Pro не готова, все запросы пользователей к Pro будут тихонечко отправляться на v4.1 Flash (и по цене Flash). На HackerNews ожидаемо жарко: кто-то кричит "нельзя подменять модель под капотом, вы че?", кто-то резонно отвечает "модели и так недетерминированы, вы никогда точно не знали, что получаете". 2. Инженерный ход. У модели новая архитектура Causal Encoder-Decoder. При размере модели в 552B параметров, обработка входного запроса реально включает только 8B, для генерации ответа - уже 16B. Экономия в памяти на токен в 437 раз по сравнению с первой версии DeepSeek (если помните, она всех порядком удивила). Если вы уже перешли при работе с AI на длинный контекст, цепочки разных вызовов, есть база знаний - то это идеалити. В память влезает на порядки больше диалогов одновременно, за меньшие деньги. Цены: $0.003 (!) за 1M токенов на cache hit, $0.15 - на miss, $0.6 - за output. Нот бэд, как говорится. Что вы сами думаете про скрытое переключение модели - ок это или нет? И думаете ли про v4.1 flash для своей базы знаний / personal OS?

Кратко (AI)

Компания DeepSeek представила модель v4.1 Flash, использующую архитектуру Causal Encoder-Decoder для повышения эффективности. Компания временно перенаправляет запросы к Pro-версии на Flash-модель, что вызвало споры в сообществе, при этом заявленная стоимость обработки токенов значительно снижена.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖