Google представила два новых специализированных чипа TPU

Что произошло

Google представила два новых варианта собственных тензорных процессоров TPU — TPU 8tx и TPU 8i Max. Компания расширила сферу применения линейки, добавив поддержку конфиденциального запуска и обучения моделей, а также работы с большими объёмами памяти.

Новые чипы предназначены для ИИ-нагрузок и должны помочь Google снизить зависимость облачного бизнеса от процессоров сторонних производителей.

Особенности новых чипов

TPU 8tx создан совместно с AMD на базе TPU 8t. Google заявляет, что функции безопасности встроены непосредственно в аппаратный слой: это позволяет защищать и изолировать чувствительные данные и веса моделей во время работы.

В чипе также используется специализированная сеть вывода, которая позволяет одновременно выполнять рассуждения и обучение. По словам Google, это может быть полезно для обучения небольших моделей на собственных данных компании без перемещения данных между устройствами.

TPU 8i Max объединяет два ориентированных на вывод чипа TPU 8i. Благодаря этому модели ИИ могут обрабатывать больший объём информации во время запросов.

Почему это важно

Google развивает собственную аппаратную платформу на фоне стремления крупных поставщиков облачных услуг и ИИ-лабораторий уменьшить зависимость от Nvidia. Microsoft, Amazon, OpenAI и Anthropic также работают над специализированными полупроводниками и программным обеспечением для них.

Контекст

TPU 8tx и TPU 8i Max входят в восьмое поколение чипов Google. Представленные ранее решения этого поколения были ориентированы на увеличение возможностей вывода и поддержку крупных задач обучения.