NVIDIA анонсировала NVHBMi — собственную технологию базового кристалла (base-diei) HBM, которая объединяется с NVLink Fusioni для встраивания в кастомные ИИ-чипы партнёров экосистемы. Ключевое отличие от стандартного HBM4E: контроллер памяти перенесён с вычислительного кристалла в базовый кристалл памяти, что освобождает площадь на основном чипе под дополнительные вычислительные блоки.

По расчётам NVIDIA, это даёт заметный прирост производительности и энергоэффективности на уровне отдельных ускорителей и целых дата-центров, а первым партнёром по внедрению технологии станет Amazon Annapurna Labs для чипов Trainium4.

• Технология увеличивает пропускную способность памяти до 30% на стек HBM и снижает энергопотребление HBM до 15% по сравнению с HBM4E
• Площадь служебных блоков (PHY и логики) на кристалле уменьшилась на 67%
• По данным Source 1, освобождается до 25% площади основного чипа под вычислительные блоки; по данным Source 2 (NVIDIA), эта цифра составляет до 30% — источники расходятся в оценке
• Совокупный прирост end-to-end производительности XPU оценивается в примерно 30%
• На масштабе дата-центра мощностью 1 ГВт экономия энергии, по расчётам NVIDIA, способна высвободить мощность для дополнительных примерно 15 000 ускорителей по 2 кВт каждый
• Первый партнёр по внедрению — лаборатория Amazon Annapurna Labs, интегрирующая NVHBM в разрабатываемые ИИ-ускорители Trainium4
• NVLink Fusion связывает кастомные XPU/CPU с общей инфраструктурой NVIDIA на уровне стойки