AMD представила ускоритель Instinct MI350P в форм-факторе PCIe

🐿 С днем чипов Потому что сегодня поговорим про две новинки этой недели, которые будут ускорять наше светлое будущее (ну а еще люблю производство чипов ☺️) AMD выкатила Instinct MI350P — первую Instinct-карту в форм-факторе PCIe почти за пять лет (в прошлый раз релиз был аж в 2022 для MI210). Учитывая форм-фактор, а также лучшее практики индустрии, было бы логично предположить отбраковку — чипы, не прошедшие бин под MI350X. Нет. MI350X собран из двух I/O-дай, на каждой по четыре XCD (итого 8). MI350P — это один IOD с четырьмя XCD: отдельно собранный чип из тех же чиплетов, а не порезанный флагман. Ровно тот случай, ради которого чиплеты и затевались. Отсюда честная половина по всем характеристикам: - 128 CU / 512 матричных ядер (против 256/1024) - 144 ГБ HBM3E, 4 ТБ/с — 4 стека вместо 8, шина 4096 бит вместо 8192 - 2.3 PFLOPS MXFP8 - частота та же, 2200 МГц — её не резали Не половина только потребление: 600 Вт вместо 1000. 600 — это потолок спецификации PCIe CEM, AMD упёрлась в него ровно. Для серверов, которые столько не тянут, есть режим на 450 Вт. FHFL, два слота, полностью пассивный радиатор, до 8 карт в шасси (Supermicro в 5U умудряется ставить 10). Если говорить про грустное — Infinity Fabric наружу не выведен вообще, карты общаются между собой только по PCIe Gen5 x16. Восемь карт в сервере — это восемь моделей, а не одна большая, размазанная по восьми GPU. Для RAG-пайплайнов и инференса того, что влезает в 144 ГБ, — норм. Для чего-то крупнее — мимо. Конкурентов в нише по сути нет: H200 NVL — это Hopper без FP4/FP6, RTX Pro 6000 Blackwell Server Edition — 96 ГБ GDDR7 вместо HBM. Актуальной HBM-карты в PCIe у NVIDIA нет и не анонсировано. Правда цена пока что остается в тайне и возможно именно в ней собака и зарыта #chips @techn0danya