Google разрабатывает чип Frozen для инференса Gemini
М@cgeventAI-инженер
1 месGoogle работает над специализированным чипом Frozen, в который часть модели Gemini будет «зашита» на уровне кремния для повышения энергоэффективности.
Frozen v2
Речь идёт не о мультике или следующем поколении TPU, а о гораздо более радикальном эксперименте Google - специализированном серверном чипе, в который часть модели Gemini будет буквально «зашита» на уровне кремния.
Первое развёртывание планируется ориентировочно на 2028 год.
Чип предназначен прежде всего для инференса - генерации ответов уже обученной моделью, а не для её обучения.
По данным The Information, Google рассчитывает получить в 6-10 раз больше токенов на единицу потреблённой энергии, чем на своих нынешних AI-чипах.
Архитектура пока не утверждена - инженеры ещё решают, какая доля параметров Gemini будет физически зафиксирована в чипе.
В чём фокус
Обычно веса модели хранятся в HBM-памяти, постоянно считываются и передаются вычислительным блокам. Это расходует огромное количество энергии и упирается в пропускную способность памяти.
В Frozen часть весов или вычислительных структур хотят сделать постоянными - условно превратить модель из программы, исполняемой процессором, в часть самого процессора. Так можно убрать множество обращений к памяти и заменить универсальные вычислительные блоки более простыми фиксированными схемами.
Отсюда и название Frozen - часть модели «заморожена» в кремнии.
Это не замена TPU
Frozen разрабатывается как отдельная линейка, дополняющая TPU:
TPU 8t предназначен для обучения моделей.
TPU 8i - для более универсального инференса и AI-агентов.
Frozen - для чрезвычайно дешёвого и массового обслуживания конкретного семейства Gemini.
https://www.reuters.com/business/google-plans-new-chip-run-gemini-models-more-efficiently-information-reports-2026-07-20/
@cgevent
Кратко (AI)
Google разрабатывает специализированный чип под кодовым названием Frozen, который позволит интегрировать часть весов модели Gemini непосредственно в архитектуру процессора. Это решение направлено на радикальное повышение энергоэффективности при инференсе за счет сокращения обращений к памяти. Ожидается, что технология будет внедрена к 2028 году и станет дополнением к линейке TPU.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖