Superinteligencia

La superinteligencia es un concepto hipotético: un sistema cuya capacidad intelectual excedería con mucho la de los humanos más brillantes en casi todos los terrenos, desde la investigación científica hasta la planeación estratégica o la persuasión. No existe hoy ningún sistema así.

La idea tiene antecedentes claros. En 1965 el matemático I. J. Good describió una «máquina ultrainteligente» que podría diseñar máquinas aún mejores, lo que desencadenaría una «explosión de inteligencia». El filósofo Nick Bostrom popularizó el término en su libro Superintelligence: Paths, Dangers, Strategies (2014), donde analiza caminos posibles para llegar a ella y los riesgos de no poder controlarla.

Se suele pensar en una escalera: IA estrecha, IA general y, finalmente, superinteligencia. Pero no hay consenso sobre si esa escalera es realista, cuánto tardaría ni si el salto sería gradual o abrupto. Algunos investigadores la consideran una posibilidad seria a mediano plazo; otros, especulación sin base empírica.

El concepto importa sobre todo por el debate sobre riesgo existencial y alineación: si un sistema mucho más capaz que nosotros persiguiera objetivos mal especificados, corregirlo podría ser muy difícil. Varios laboratorios han creado equipos dedicados a este problema. Al leer noticias sobre el tema, distingue entre lo que un sistema demostrablemente hace y las proyecciones sobre lo que podría hacer.