Intel представила ускоритель D270 для инференса ИИ
P@prohitecавтор про «tech»
2 недIntel анонсировала ускоритель D270 на архитектуре Xe3P, оптимизированный для инференса ИИ с объемом памяти до 480 ГБ и производительностью 1,3 ПФЛОПС.
Intel выпускает специализированное железо для запуска крупных ИИ-моделей, конкурируя с решениями NVIDIA.
- Специализация на инференсе позволяет эффективнее запускать большие языковые модели.
- Высокий объем памяти (до 480 ГБ) критически важен для работы с тяжелыми нейросетями.
- Отказ от графических ядер снижает стоимость и энергопотребление в задачах ИИ.
Intel представила ускоритель D270 для инференса ИИ
Intel представила ускоритель D270 на архитектуре Xe3P, созданный специально под инференс ИИ-моделей. Из кремния полностью убрали блоки для 3D и лучей, отдав освободившуюся площадь под вычисления. Карта потребляет 350 Вт и подключается по PCIe 5.0.
Базовый вариант от Intel идет со 160 ГБ памяти, а партнеры смогут выпускать версии до 480 ГБ. Чип содержит 32 ядра Xe3P, 256 XMX-блоков и выдает 1,3 ПФЛОПС на операциях FP8. По расчетам Intel, одной карты хватит для работы с моделями на 300 млрд параметров, а сервер из восьми ускорителей потянет модели объемом более 1 трлн.. Инженерные образцы уже уходят клиентам.
Кратко (AI)
Intel анонсировала специализированный ускоритель D270 на архитектуре Xe3P, предназначенный исключительно для инференса ИИ. Устройство лишено графических блоков, что позволило увеличить вычислительную мощность до 1,3 ПФЛОПС при поддержке моделей объемом до 1 трлн параметров в серверных конфигурациях.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖