GPU (unidad de procesamiento gráfico)

Una GPU (graphics processing unit) es un chip diseñado para hacer muchísimas operaciones sencillas al mismo tiempo. Nació para dibujar los píxeles de los videojuegos, una tarea que consiste en repetir el mismo cálculo sobre millones de puntos a la vez.

Resultó que las redes neuronales necesitan justo eso: multiplicar matrices enormes una y otra vez. Una CPU (el procesador principal de tu computadora) tiene pocos núcleos muy versátiles; una GPU tiene miles de núcleos más simples que trabajan en paralelo. Por eso, desde inicios de la década de 2010, el aprendizaje profundo despegó entrenándose en GPU, y hoy los grandes modelos se entrenan en miles de ellas conectadas dentro de un centro de datos.

En IA importan dos cosas además de la velocidad de cálculo: la memoria de la GPU (cuánto modelo cabe en ella) y la interconexión entre chips, porque un modelo grande se reparte entre muchas. Las GPU para centros de datos son muy distintas de la tarjeta gráfica de una laptop gamer, aunque compartan la idea.

No son la única opción: existen chips especializados como la TPU de Google o la NPU de las PC y teléfonos recientes. Y su consumo eléctrico es una parte central de la huella energética de la IA.