SanDisk и SK Hynix представили стандарт памяти HBF для ИИ
P@prohitecавтор про «tech»
3 недSanDisk и SK Hynix анонсировали стандарт High Bandwidth Flash (HBF) для масштабирования памяти в ИИ-системах, дополняющий HBM.
Новый стандарт памяти позволит запускать огромные ИИ-модели на более доступном оборудовании.
- HBF решает проблему нехватки памяти при работе с большими языковыми моделями.
- Технология позволяет увеличить объем доступной памяти в 8–16 раз по сравнению с текущими решениями HBM.
- Снижение стоимости инфраструктуры для инференса ИИ при сохранении высокой производительности.
SanDisk и SK Hynix представили спецификацию высокоскоростной флеш-памяти HBF
Компании SanDisk и SK Hynix в рамках инициативы Open Compute Project опубликовали первый стандарт памяти High Bandwidth Flash (HBF). К разработке технологии уже примкнули Google и Tensorrent. Новый тип памяти использует вертикальные стеки NAND и призван решить проблему нехватки объема классической HBM при работе с крупными ИИ-моделью на этапе инференса.
HBF позиционируется не как замена HBM, а как ее дополнение в рамках одной системы. HBM берет на себя задачи, критичные к задержкам, а HBF обеспечивает масштабный объем под веса моделей. По расчетам разработчиков, 16-кристальный стек HBF вмещает 512 ГБ — это в 8–16 раз больше емкости HBM при сопоставимой стоимости. Моделирование на Llama 3.1 405B показало отставание по производительности всего на 2,2% в сравнении с чистой HBM-системой. Первые образцы памяти ожидаются во второй половине 2026 года, а коммерческие поставки намечены на 2027 год.
Кратко (AI)
Компании SanDisk и SK Hynix представили спецификацию памяти High Bandwidth Flash (HBF), предназначенную для хранения весов крупных ИИ-моделей. Технология призвана дополнить HBM, предлагая значительно больший объем памяти при сопоставимой стоимости и минимальных потерях в производительности.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖