Google разрабатывает специализированный чип Frozen v2 для моделей Gemini

По инсайду The Information, Google разрабатывает серверный чип «Frozen v2», в кремний которого будет напрямую встроена архитектура модели Gemini. По внутренним оценкам, чип окажется в 6–10 раз эффективнее новейших TPU по числу токенов на единицу энергии. Развёртывание планируется не раньше 2028 года. Зачем это надо — понятно, такой чип будет работать быстрее и решит вопрос дефицита инференса, который у Google тоже есть. Первая версия Frozen, продвигавшаяся Джеффом Дином, предполагала прошивку в чип всей модели с весами — её отложили, потому что жизненный цикл такого чипа был бы слишком коротким. Во второй версии предложен компромисс: веса можно обновлять, но базовая архитектура фиксируется навсегда. Насколько это будет долгосрочное решение — непонятно, пока речь идет о пробных ограниченных тиражах только для внутреннего использования. https://www.theinformation.com/articles/google-plans-new-frozen-chip-run-ai-models-efficiently?rc=ukjmk2