Una investigación de WIRED publicada el 2 de noviembre expuso una red de más de 400 aplicaciones y dominios conectados que se presentaban como servicios cotidianos —retratos de mascotas, clases de idiomas, entrenadores de ejercicio con IA— pero que, en ciertas condiciones, cargaban a escondidas una interfaz para generar imágenes y videos sexuales falsos a partir de fotos subidas por los usuarios.
Un ejemplo es Viefur, que en apariencia convierte fotos de mascotas en retratos "humanizados". Según la investigación, al descargarla después de hacer clic en ciertos anuncios, la app consultaba a un servidor que decidía si mostrar la versión inocente o la explícita. El investigador Paul Bouchaud, de la organización AI Forensics, explicó que cada descarga enviaba datos como el origen del usuario, el idioma y un identificador único, y el servidor respondía qué versión mostrar.
Cómo llegaba a la gente
- Los investigadores encontraron la red al rastrear miles de anuncios en video con contenido sexual falso publicados en Facebook e Instagram; algunos incluían material de abuso sexual infantil generado con IA, según reportes previos de WIRED.
- Los anuncios llevaban a las apps en las tiendas de Apple y Google, donde se cobraba con Apple Pay y Google Pay.
- En septiembre había 27 apps de la red activas en Google Play, con más de 350,000 descargas en conjunto; una de ellas, DiffAI, superó las 100,000.
- Las apps parecen operadas por desarrolladores chinos y una entidad registrada en Hong Kong, KeLing Technology Limited, que no respondió a WIRED.
La respuesta de las plataformas
Google había retirado la mayoría de las apps antes de que WIRED lo contactara y no respondió a las preguntas. Apple eliminó 19 apps y explicó que los desarrolladores cambiaron el contenido después de la revisión, una táctica de "carnada y cambio"; la empresa dijo haber suspendido decenas de miles de apps por esa práctica en el último año. "No esperan que la aplicación de las reglas los alcance, y hasta ahora no lo ha hecho", resumió Bouchaud.
Por qué importa en México
La violencia digital con imágenes íntimas falsas ya está tipificada en México por la Ley Olimpia en el ámbito federal y en las entidades, pero casos como este muestran que el problema se mueve más rápido que la persecución: apps desechables, anunciantes con nombres falsos y servidores en otros países. Para familias y escuelas la recomendación es concreta: desconfiar de apps "de fotos" desconocidas, revisar qué permisos piden y denunciar en la propia plataforma y ante la policía cibernética cuando una imagen falsa circula.
Para los legisladores, el caso apunta a una pieza que suele faltar en el debate: la responsabilidad de las tiendas de apps y de las redes que venden publicidad a estos operadores.
Con información de WIRED.
