NVIDIA представила технологию NVHBM для AI-ускорителей
M@machinelearning_interviewAI-инженер
13 чNVIDIA анонсировала NVHBM — собственную технологию HBM base-die, повышающую производительность и энергоэффективность будущих AI-ускорителей.
Новая технология памяти от NVIDIA позволит создавать более мощные и экономичные AI-чипы.
- Увеличение пропускной способности памяти на 30% ускорит обучение и работу нейросетей.
- Снижение энергопотребления позволяет размещать больше вычислительных мощностей в рамках существующих лимитов питания дата-центров.
- Оптимизация площади кристалла дает возможность инженерам добавлять больше вычислительных ядер на один чип.
🔥 NVIDIA показала NVHBM для следующего поколения AI-инфраструктуры
NVHBM - собственная технология HBM base-die, которую NVIDIA объединяет с NVLink Fusion для кастомных AI-ускорителей.
Заявленные преимущества против стандартной HBM4e:
- до +30% пропускной способности памяти
- до -15% энергопотребления HBM
- до +30% доступной площади кристалла под вычислительные блоки
- до -67% площади PHY и служебной логики
- около +30% end-to-end производительности на XPU
На масштабе дата-центра в 1 ГВт экономия энергии, по расчётам NVIDIA, может высвободить мощность ещё примерно для 15 000 ускорителей по 2 кВт.
NVLink Fusion при этом связывает кастомные XPU/CPU с общей инфраструктурой NVIDIA на уровне стойки.
https://developer.nvidia.com/blog/nvidia-nvlink-fusion-brings-nvhbm-to-next-generation-ai-infrastructure/
Кратко (AI)
NVIDIA представила технологию NVHBM, которая позволяет оптимизировать архитектуру памяти HBM для кастомных AI-ускорителей. Решение в связке с NVLink Fusion обещает значительный прирост производительности и энергоэффективности, что критически важно для масштабирования дата-центров.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖