← к ленте

Google разрабатывает чип Frozen для инференса Gemini

М@cgeventAI-инженер
1 мес

Google работает над специализированным чипом Frozen, в который часть модели Gemini будет «зашита» на уровне кремния для повышения энергоэффективности.

Frozen v2 Речь идёт не о мультике или следующем поколении TPU, а о гораздо более радикальном эксперименте Google - специализированном серверном чипе, в который часть модели Gemini будет буквально «зашита» на уровне кремния. Первое развёртывание планируется ориентировочно на 2028 год. Чип предназначен прежде всего для инференса - генерации ответов уже обученной моделью, а не для её обучения. По данным The Information, Google рассчитывает получить в 6-10 раз больше токенов на единицу потреблённой энергии, чем на своих нынешних AI-чипах. Архитектура пока не утверждена - инженеры ещё решают, какая доля параметров Gemini будет физически зафиксирована в чипе. В чём фокус Обычно веса модели хранятся в HBM-памяти, постоянно считываются и передаются вычислительным блокам. Это расходует огромное количество энергии и упирается в пропускную способность памяти. В Frozen часть весов или вычислительных структур хотят сделать постоянными - условно превратить модель из программы, исполняемой процессором, в часть самого процессора. Так можно убрать множество обращений к памяти и заменить универсальные вычислительные блоки более простыми фиксированными схемами. Отсюда и название Frozen - часть модели «заморожена» в кремнии. Это не замена TPU Frozen разрабатывается как отдельная линейка, дополняющая TPU: TPU 8t предназначен для обучения моделей. TPU 8i - для более универсального инференса и AI-агентов. Frozen - для чрезвычайно дешёвого и массового обслуживания конкретного семейства Gemini. https://www.reuters.com/business/google-plans-new-chip-run-gemini-models-more-efficiently-information-reports-2026-07-20/ @cgevent

Кратко (AI)

Google разрабатывает специализированный чип под кодовым названием Frozen, который позволит интегрировать часть весов модели Gemini непосредственно в архитектуру процессора. Это решение направлено на радикальное повышение энергоэффективности при инференсе за счет сокращения обращений к памяти. Ожидается, что технология будет внедрена к 2028 году и станет дополнением к линейке TPU.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖