Cerebras представила сервер CS-4 с чипами WSE 3 Turbo
э@ai_newzAI-инженер
1 недCerebras анонсировала сервер CS-4 на базе разогнанных чипов WSE 3 Turbo, обеспечивающих двукратный прирост производительности и поддержку 10T моделей.
Новое оборудование Cerebras значительно ускоряет работу с гигантскими нейросетями.
- Увеличение частоты чипов до 2,8 ГГц удваивает скорость обработки данных.
- Модульная архитектура упрощает масштабирование и обслуживание серверных стоек.
- Система позволяет запускать модели объемом 10 триллионов параметров с высокой скоростью генерации.
Cerebras показали CS-4
Новый сервер позволяет запускать модели на скорости в 2 раза выше, и даёт возможность запускать 10T модели на скорости в 1000+ токенов в секунду. В каждом таком сервере три WSE 3 Turbo, это разогнанная версия оригинального WSE 3. Удвоив частоту с 1,4 Ghz до 2,8 Ghz компания удвоила пропускную способность памяти и FLOP/s, что и даёт прирост в скорости моделей. Памяти на чип правда те же 44 гигабайта, так что для обещанных 10T моделей нужно несколько десятков CS-4.
Отдельная особенность CS-4 это модульность — каждый чип находится в отдельном модуле, который подключается к стойке отвечающей за питание и охлаждение. Это упрощает установку — стойки можно поставить заранее, а потом подключить к ним чипы, когда они будут готовы. К тому же это даёт возможность апгрейда в будущем.
@ai_newz
Кратко (AI)
Компания Cerebras представила сервер CS-4, оснащенный тремя чипами WSE 3 Turbo. Благодаря увеличению тактовой частоты до 2,8 ГГц, система обеспечивает двукратный прирост производительности и позволяет запускать 10-триллионные модели со скоростью более 1000 токенов в секунду.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖