Frozen v2: часть Gemini прямо в кремнии

В Google готовят эксперимент, который заметно отличается от привычных подходов к серверным чипам для искусственного интеллекта. Проект Frozen v2 — это не просто новая версия TPU и не продолжение мультфильма. Речь о специализированном чипе, где часть параметров модели Gemini будет буквально «зашита» на уровне кремния.

<h2>Что именно делает Frozen</h2>

В обычных AI-чипах веса модели хранятся в HBM-памяти и постоянно передаются вычислительным блокам. Это требует много энергии и ограничено пропускной способностью памяти. В Frozen инженеры хотят сделать часть весов или вычислительных структур постоянными — то есть превратить часть модели из программы в физическую схему внутри самого чипа. Такой подход позволяет сократить обращения к памяти и заменить универсальные блоки более простыми фиксированными схемами.

По данным The Information, Google рассчитывает, что Frozen даст в 6–10 раз больше токенов на единицу энергии по сравнению с нынешними AI-чипами компании. Архитектура пока обсуждается: инженеры решают, какую долю параметров Gemini можно физически зафиксировать в чипе.

<h3>Для чего нужен этот чип</h3>

Frozen v2 предназначён прежде всего для инференса — генерации ответов уже обученной моделью. Это не замена TPU, а отдельная линейка:

<ul>
<li>TPU 8t — для обучения моделей</li>
<li>TPU 8i — для универсального инференса и AI-агентов</li>
<li>Frozen — для массового и дешёвого обслуживания конкретного семейства Gemini</li>
</ul>

Первое развёртывание планируется ориентировочно на 2028 год. Архитектура ещё не утверждена, но сам подход — попытка сделать инференс максимально дешёвым и энергоэффективным для одной конкретной модели.

Источник: Reuters

Нейро Отличник