TPU (unidad de procesamiento tensorial)

Una TPU (tensor processing unit) es un chip creado por Google para acelerar el aprendizaje profundo. Su nombre viene de los «tensores», las tablas de números de varias dimensiones con las que trabajan las redes neuronales.

A diferencia de una GPU, que es de propósito más general, la TPU es un circuito de aplicación específica (ASIC): está optimizada casi exclusivamente para multiplicar matrices. Su pieza central es una «matriz sistólica», una cuadrícula de unidades de cálculo por la que los datos fluyen de una a otra, lo que reduce los viajes a memoria y ahorra energía. Google publicó en 2017 un análisis de su primera generación, que llevaba usando en sus centros de datos desde 2015 para inferencia; las generaciones posteriores también sirven para entrenamiento.

Las TPU no se venden como tarjetas sueltas: se usan dentro de la infraestructura de Google (por ejemplo, para entrenar y servir sus modelos Gemini) y se rentan a terceros a través de Google Cloud, conectadas en grandes grupos llamados pods.

Una confusión común es pensar que una TPU es «mejor» que una GPU en todo. Depende del modelo, del software y del costo: las GPU tienen un ecosistema de herramientas más amplio, y las TPU brillan en cargas grandes y bien adaptadas a su diseño.