Google готовит специализированный серверный ИИ-чип с внутренним названием Frozen v2i, в котором часть архитектуры модели Gemini будет аппаратно закреплена в кремнии, а не выполняться как обычная программа. По данным The Information, это должно дать в 6–10 раз больше обработанных токенов на единицу энергии по сравнению с нынешними TPUi и снизить дефицит вычислительных мощностей у Google. Первое развёртывание ожидается не раньше 2028 года.

Плата за эффективность — потеря гибкости: если ключевые элементы модели зафиксированы в кремнии, будущие версии Gemini должны сохранять совместимую архитектуру, а крупные изменения модели потребуют разработки нового чипа. Это ещё теснее свяжет модели Google и его инфраструктуру, и без того менее зависимую от Nvidia благодаря TPU.

• Чип предназначен прежде всего для инференса — генерации ответов уже обученной моделью, а не для её тренировки.
• Frozen не заменяет TPU, а становится отдельной линейкой: TPU 8t — для обучения моделей, TPU 8i — для универсального инференса и AI-агентов, Frozen — для дешёвого массового обслуживания конкретного семейства Gemini.
• Обычно веса модели хранятся в HBM-памяти и постоянно считываются вычислительными блоками, что расходует много энергии и упирается в пропускную способность памяти; Frozen делает часть весов или вычислительных структур постоянной частью процессора, убирая часть обращений к памяти.
• Архитектура пока не утверждена: инженеры решают, какая доля параметров Gemini будет физически зафиксирована в чипе.
• По данным «БлоGнот», первая версия Frozen, продвигавшаяся Джеффом Дином, предполагала прошивку в чип всей модели с весами, но её отложили — жизненный цикл такого чипа был бы слишком коротким.
• Во второй версии предложен компромисс: веса можно обновлять, но базовая архитектура фиксируется навсегда; пока речь идёт о пробных ограниченных тиражах только для внутреннего использования Google.
• Проект находится на ранней стадии и официально компанией не представлен.