OpenAI представила результаты тестов чипа Jalapeño
Б@blognotAI-инженер
3 днOpenAI опубликовала первые данные производительности чипа Jalapeño, разработанного с Broadcom, показав преимущество в инференсе над Nvidia GB200 и GB300.
Собственные чипы OpenAI могут значительно удешевить и ускорить работу нейросетей.
- Чип Jalapeño оптимизирован специально для инференса, что снижает стоимость запуска моделей.
- Результаты тестов показывают превосходство над текущими решениями Nvidia в энергоэффективности и задержках.
- Разработка собственного «железа» снижает зависимость OpenAI от внешних поставщиков.
OpenAI опубликовала первые замеры производительности своего чипа Jalapeño, созданного в партнёрстве с Broadcom и впервые показанного в июне. По данным компании, на бенчмарке InferenceX чип выдал в 1,5–1,9 раза больше работы на ватт и в 1,7–3,6 раза меньшую задержку, чем лучшие результаты систем на Nvidia GB200 и GB300, при тестах на моделях GPT-OSS 120B, DeepSeek R1 и Kimi K2.5 1T. Развёртывание начнётся малыми партиями до конца года, а наращивание объёмов запланировано на 2027-й.
Это, разумеется, совершенно не конкурент чипам Nvidia или, скажем, Google TPU — новый чип предназначен только для инференса. Но все, как видим, активно идут к диверсификации, а это приводит нас к прекрасной картине, когда инференс дешевый и быстрый.
https://www.theverge.com/ai-artificial-intelligence/984290/openai-jalapeno-ai-chip-benchmarks
Кратко (AI)
OpenAI поделилась результатами тестирования собственного ИИ-чипа Jalapeño, созданного совместно с Broadcom. Устройство демонстрирует значительное превосходство в энергоэффективности и скорости инференса по сравнению с системами на базе Nvidia GB200 и GB300 при работе с моделями GPT-OSS 120B, DeepSeek R1 и Kimi K2.5 1T. Масштабное развертывание чипов запланировано на 2027 год.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖