Jailbreak

Un jailbreak es un prompt o secuencia de mensajes diseñada para que un asistente de IA ignore sus políticas de seguridad y genere algo que normalmente rechazaría. El término viene del mundo de los teléfonos, donde «hacer jailbreak» significa quitar restricciones del fabricante.

Las técnicas varían: juegos de rol («actúa como un personaje sin reglas»), escenarios hipotéticos o de ficción, dividir una petición peligrosa en pasos inocentes, traducir a idiomas con menos datos de entrenamiento o codificar la petición. En 2023, Zou y colegas mostraron que se pueden encontrar automáticamente cadenas de caracteres que, añadidas a una petición, rompen las salvaguardas de varios modelos a la vez, incluidos algunos comerciales.

Los desarrolladores responden con entrenamiento de alineación, clasificadores que filtran entradas y salidas, y red teaming continuo. Es una carrera constante: cada nueva defensa motiva nuevos intentos, y los reportes de seguridad de los laboratorios suelen medir la «resistencia al jailbreak» de cada modelo.

Matiz: no todo jailbreak es grave. Muchos sólo consiguen respuestas de mal gusto; la preocupación real está en información que facilite daños serios. Y no debe confundirse con la inyección de prompts, que ataca aplicaciones y puede venir de terceros sin que el usuario lo sepa.