Представлено третье поколение тензорных процессоров TPU, предназначенных для машинного обучения.

В рамках конференции для разработчиков Google I/O 2018 было представлено третье поколение тензорных процессоров Tensor Processing Unit (TPU), предназначенных для машинного обучения. Новое решение, как сообщили в компании Google, в восемь раз производительнее по сравнению с предшественником.

« Эти чипы настолько мощные, что нам впервые пришлось применять жидкостное охлаждение в наших дата-центрах, — заявил генеральный директор Google Сундар Пичай. »

TPU 3.0 поддерживает обработку вычислительных нагрузок производительностью 100 петафлопс. У версии TPU 2.0, представленной в 2017 году, показатель составлял 180 терафлопс. Каждая плата подключается к слоту PCI Express 3.0 x16.

Google не раскрыла детальную информацию о новой платформе. На изображении, которое компания показала во время конференции, можно было видеть плату с четырьмя водоблоками, то есть одна плата, как и ранее, содержит четыре тензорных процессора (ASIC), объединенных в один контур. Главной частью процессора является матрица, выполняющая операции умножения-сложения (multiply-accumulate).


Процессоры Tensor Processing Unit в восемь раз быстрее Google TPU 2.0
Также известно, что TPU 3.0 имеет вдвое больше высокоскоростной памяти (128 Гбайт) относительно второго поколения, благодаря чему оборудование стало лучше подходить для больших моделей машинного обучения, работающих с гигантскими массивами данных.

В одну серверную стойку можно устанавливать до 64 модулей TPU 3.0, что вдвое больше по сравнению с предшественником. Справиться с отводом тепла такой системы без водяного охлаждения было бы тяжело.

Клиенты Google смогут воспользоваться мощностями TPU 3.0 через облако Google Cloud, однако сроки публичной доступности новинки не сообщаются. Версия TPU 2.0 была запущена в качестве сервиса в феврале 2018 года, пользователи могут арендовать только один модуль за раз.