• Google изучает две конструкции ИИ-чипов совместно с Marvell, ориентированные на инференс и оптимизацию памяти.
  • Планы включают блок обработки памяти и TPU нового поколения для задач инференса.

Что произошло

Google ведёт переговоры с Marvell Technology о совместной разработке двух новых ИИ-чипов,согласно сообщениям, на которые ссылаются Reuters и The Information.  

Чипы призваны повысить эффективность выполнения ИИ-моделей, особенно при выполнении задач инференса. Одна из конструкций представляет собой блок обработки памяти, который должен поддерживать существующие тензорные процессоры (TPU) Google. Вторая — новый TPU, специально разработанный для задач инференса.

Компании пока находятся на ранних стадиях обсуждения конструкции. Они планируют завершить проектирование чипа памяти в следующем году, после чего перейдут к тестовому производству.

Googleрасширяет свою стратегию в области заказных чипов. Его TPU уже поддерживают крупномасштабные ИИ-сервисы в его облачном бизнесе. Компания также конкурирует с Nvidia на рынках ИИ-инфраструктуры.      

Почему это важно

Это соглашение отражает более широкий поворот в ИИ-вычислениях в сторону эффективности инференса. Ранее обучение ИИ-моделей доминировало в спросе на чипы. Сегодня инференс становится основной рабочей нагрузкой в реальных приложениях.

Это изменение увеличивает спрос на специализированные чипы, снижающие задержку и энергопотребление. Google стремится уменьшить зависимость от универсальных GPU Nvidia. Вместо этого он строит вертикально интегрированный стек аппаратного и программного обеспечения.

Сотрудничество также подчёркивает растущую конкуренцию в сфере полупроводников для ИИ. Такие компании, как Broadcom, AMD и Marvell, позиционируют себя как партнёры по заказным чипам для гиперскейлеров.

Для Google более производительные собственные чипы могут улучшить маржу в облачном бизнесе. Это также может помочь удержать корпоративных клиентов, которым нужны крупномасштабные развёртывания ИИ.

В то же время это решение увеличивает стратегические риски. Проектирование заказных чипов дорого и сложно. Оно также усиливает зависимость от партнёров по цепочке поставок в производстве и упаковке.

Более широкая отраслевая тенденция указывает на то, что расходы на ИИ-инфраструктуру продолжают ускоряться. Облачные провайдеры продолжают активно инвестировать в специализированные вычисления, несмотря на опасения по поводу избыточного предложения или замедления циклов спроса.

Читайте также:Nvidia поставит Amazon до миллиона ИИ-чипов в рамках облачной сделки   

Читайте также:Anthropic рассматривает разработку собственных ИИ-чипов