← к ленте

Nvidia запускает в производство ускоритель Groq 3 LPX

Б@blognotAI-инженер
3 дн

Nvidia начала серийное производство ускорителя инференса Groq 3 LPX для платформы Vera Rubin, обеспечивающего высокую скорость работы моделей.

Nvidia значительно ускоряет работу ИИ-моделей, внедряя новые технологии для облачных вычислений.

  • Появление специализированного ускорителя инференса позволяет обрабатывать запросы к ИИ в разы быстрее.
  • Интеграция технологий Groq в экосистему Nvidia усиливает доминирование компании на рынке оборудования для ИИ.
  • Крупные компании, такие как SpaceX, получают доступ к более эффективным вычислительным мощностям для своих задач.
Nvidia объявила на Hot Chips 2026 о запуске в серийное производство Groq 3 LPX — специализированного ускорителя инференса, дополняющего платформу Vera Rubin. В стойке NVL72 может работать до 256 таких ускорителей. По данным Artificial Analysis, система выдаёт 3 400 токенов в секунду на модели Gemma 4 31B с контекстом в 100 тысяч токенов. Первым клиентом стал облачный провайдер Nebius, также Nvidia назвала SpaceX новым флагманским заказчиком платформы Vera Rubin. Это вот такой результат необычной сделки, когда Nvidia получила лицензию на Groq и трудоустроила около 20 ведущих сотрудников компании у себя, включая основателя. Сам результат тоже неплох — для сравнения, на Cerebras эта же Gemma выдает вдвое меньшую скорость. https://siliconangle.com/2026/08/24/nvidias-dedicated-inference-accelerator-groq-3-lpx-enters-full-production-to-supercharge-ai-agents/
КонтекстAI
Ранее Nvidia заключила сделку с компанией Groq, получив лицензию на их технологии и наняв ключевых сотрудников, включая основателя. Этот шаг позволил Nvidia интегрировать наработки Groq в свою экосистему, что привело к созданию ускорителя Groq 3 LPX.

Кратко (AI)

Nvidia запустила в серийное производство специализированный ускоритель инференса Groq 3 LPX, предназначенный для работы в составе платформы Vera Rubin. Система демонстрирует высокую производительность на модели Gemma 4 31B, а первыми крупными заказчиками стали облачный провайдер Nebius и компания SpaceX.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖