IA en el dispositivo (edge AI)

La IA en el dispositivo (también llamada edge AI o IA «en el borde») significa que el modelo corre en el mismo aparato que genera los datos: tu celular, tu laptop, una cámara de seguridad, un auto o una máquina en una fábrica. La alternativa es mandar los datos a un servidor en la nube y esperar la respuesta.

Hacerlo localmente tiene ventajas claras: menor latencia (no hay viaje por internet), funciona sin conexión, protege mejor la privacidad porque la información no sale del equipo y reduce costos de nube. La desventaja es que un teléfono tiene mucha menos memoria y energía que un centro de datos, así que se usan modelos más pequeños o comprimidos mediante cuantización o destilación, y chips especializados como la NPU.

En la práctica, muchos productos combinan ambos mundos: lo sencillo o sensible se resuelve en el dispositivo y lo complejo se envía a un modelo más grande en la nube. Por eso conviene leer la configuración de privacidad de cada app: «tiene IA integrada» no siempre significa que todo se procese en tu equipo.

Ejemplos cotidianos son el desbloqueo facial, el dictado sin conexión, la traducción de un letrero con la cámara o el teclado que predice la siguiente palabra.