Riesgo existencial

El riesgo existencial de la IA es la hipótesis de que sistemas futuros, mucho más capaces que los actuales, puedan provocar una catástrofe irreversible: desde la pérdida de control humano sobre sistemas autónomos hasta su uso deliberado para causar daños masivos. Está ligado a la idea de IA general y de superinteligencia.

El tema pasó de los foros académicos a la agenda pública en 2023, cuando el Center for AI Safety difundió una declaración de una sola frase firmada por investigadores y directivos de laboratorios de IA: «Mitigar el riesgo de extinción por la IA debería ser una prioridad global junto a otros riesgos a escala social como las pandemias y la guerra nuclear». El International AI Safety Report de 2025, coordinado por Yoshua Bengio, reconoce que los expertos discrepan ampliamente sobre la probabilidad y los plazos de una pérdida de control.

Los argumentos de preocupación se apoyan en la dificultad de la alineación y en la velocidad de avance de los modelos de frontera. Los críticos responden que el énfasis en escenarios especulativos distrae de daños presentes y comprobables, como el sesgo, la desinformación o la concentración de poder en pocas empresas.

Matiz para leer noticias: no hay consenso científico sobre la probabilidad de estos escenarios. Conviene distinguir entre afirmaciones con evidencia, estimaciones personales de expertos y discurso de marketing o de cabildeo.