OpenAI официально анонсировала Jalapeño — свой первый специализированный чип, разработанный для ускорения инференсiа (запуска) нейросетей. Устройство создавалось в партнерстве с Broadcom при активном участии собственных ИИ-моделей компании, что позволило сократить цикл разработки от дизайна до производства до 9 месяцев.

Чип демонстрирует значительное превосходство над актуальными ускорителями NVIDIA (GB200/GB300) по энергоэффективности и скорости отклика. Развертывание Jalapeño в дата-центрах OpenAI начнется до конца 2026 года, при этом компания продолжает использовать решения NVIDIA и уже ведет разработку второго и третьего поколений собственного «железа».

• В тестах на моделях GPT-OSS 120B, DeepSeek R1 670B и Kimi K2.5 1T чип показал в 1,5–1,9 раза больше производительности на ватт и в 1,7–3,6 раза меньшую задержку (latency).
• В интерактивных сценариях преимущество Jalapeño достигает 4,1 раза; скорость генерации на GPT-OSS 120B составляет до 1459 токенов/с на пользователя.
• Технические характеристики включают 216 ГБ памяти HBM4i с пропускной способностью 15,4 ТБ/с и TDPi 700 Вт (в тестах потребление не превышало 550 Вт).
• Архитектура чипа оптимизирована для обеих фаз инференса (prefill и decode) за счет интеграции сетевой части и приближения памяти к вычислительным блокам.
• Программное обеспечение и низкоуровневые кернелы для чипа были написаны с помощью внутренней версии модели Codex, что позволило обойтись без использования стандартных универсальных компиляторов.
• Над проектом работала команда из примерно 30 человек; разработка стартовала в октябре 2024 года, а первые образцы были получены в мае 2026 года.