AMD и Cerebras объединяют усилия для ускорения AI-инференса
Б@blognotAI-инженер
1 месAMD и Cerebras объявили о партнерстве: серверы AMD будут работать в связке с чипами Cerebras для оптимизации фаз prefill и decode в AI-инференсе.
AMD объявила о партнёрстве с Cerebras: серверные стойки AMD будут соединяться с пластинами Cerebras, чтобы обе линейки чипов работали над одной AI-нагрузкой одновременно. Графические процессоры AMD возьмут на себя prefill — самую вычислительно тяжёлую фазу инференса, а чипы Cerebras займутся decode, то есть генерацией ответа. Совместный продукт выйдет на рынок до конца года, сообщил со сцены конференции AMD глава Cerebras Эндрю Фельдман. Акции Cerebras на этой новости выросли на 7%.
Как видим, AMD прямо серьезно заходит в сферу, находя слабые места у главного конкурента.
https://www.theinformation.com/briefings/amd-partners-rival-cerebras-ai-server-rack?rc=ukjmk2
Кратко (AI)
AMD и Cerebras анонсировали технологическое партнерство, в рамках которого серверные стойки AMD будут работать совместно с чипами Cerebras для выполнения AI-нагрузок. AMD возьмет на себя фазу prefill, а Cerebras — фазу decode, что позволит ускорить процесс инференса. Совместное решение ожидается на рынке до конца текущего года.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖