NVIDIA анонсировала NVHBMi — собственную технологию базового кристалла (base-diei) HBM, которая объединяется с NVLink Fusioni для встраивания в кастомные ИИ-чипы партнёров экосистемы. Ключевое отличие от стандартного HBM4E: контроллер памяти перенесён с вычислительного кристалла в базовый кристалл памяти, что освобождает площадь на основном чипе под дополнительные вычислительные блоки.
По расчётам NVIDIA, это даёт заметный прирост производительности и энергоэффективности на уровне отдельных ускорителей и целых дата-центров, а первым партнёром по внедрению технологии станет Amazon Annapurna Labs для чипов Trainium4.
до 30%прирост пропускной способности памяти на стек
-67%сокращение площади PHY и служебной логики
15 000дополнительных ускорителей по 2 кВт на 1 ГВт дата-центра