NVIDIA представила технологию памяти NVHBM
P@prohitecавтор про «tech»
вчераNVIDIA анонсировала NVHBM — новую технологию памяти для ИИ-ускорителей, которая переносит контроллер памяти в стек HBM, освобождая место на основном чипе.
Новая архитектура памяти от NVIDIA позволит создавать более мощные и энергоэффективные чипы для обучения ИИ.
- Освобождение площади на основном чипе позволяет разместить больше вычислительных ядер.
- Увеличение пропускной способности памяти ускоряет работу с большими языковыми моделями.
- Снижение энергопотребления критически важно для масштабирования дата-центров.
NVIDIA анонсировала кастомную память NVHBM для ИИ-ускорителей
NVIDIA представила технологию памяти NVHBM, созданную для будущих собственных графических процессоров и чипов партнеров по экосистеме NVLink Fusion. В отличие от стандартного стека HBM4E, контроллер памяти перенесли с вычислительного кристалла прямо в базовый кристалл HBM. Это позволило освободить до 25% площади на основном чипе под дополнительные вычислительные блоки.
По данным NVIDIA, технология обеспечивает прирост пропускной способности памяти до 30% на стек и снижает энергопотребление на 15%. За счет перекомпоновки физического интерфейса площадь служебных блоков уменьшилась на 67%. Первым партнером по внедрению технологии станет лаборатория Amazon Annapurna Labs, которая интегрирует NVHBM в разрабатываемые ИИ-ускорители Trainium4.
Кратко (AI)
NVIDIA анонсировала технологию NVHBM, которая переносит контроллер памяти с вычислительного кристалла в базовый слой стека HBM. Это решение позволяет освободить место для вычислительных блоков, повысить пропускную способность на 30% и снизить энергопотребление. Первым партнером по внедрению станет Amazon Annapurna Labs в чипах Trainium4.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖