Cuando alguien le hace una pregunta a un chatbot, hoy no tiene forma de comprobar que la respuesta la generó el modelo que cree estar usando. Anthropic presentó el 3 de noviembre FlashProve, un prototipo de investigación de código abierto que intenta resolver ese problema con criptografía: el proveedor publica una "huella" de su modelo y, con cada respuesta, entrega una prueba compacta de que ese modelo, y no otro, fue el que la produjo.
Lo interesante es que la prueba no revela los pesos del modelo, el activo más valioso de cualquier laboratorio. Eso permitiría que modelos comerciales cerrados participen sin abrir su "receta". La técnica de fondo se llama zkSNARK, una familia de pruebas de conocimiento cero.
Para qué serviría
- Evitar que un servicio intermediario cambie en silencio un modelo caro por uno más barato para ahorrar costos, o por uno mejor para inflar resultados en pruebas comparativas.
- Que un regulador verifique que un proveedor sólo ejecuta modelos aprobados.
- Que una empresa pueda demostrar que su código fue revisado por un modelo de seguridad específico, o detectar manipulaciones en sus servidores.
Según el reporte técnico citado por The Decoder, FlashProve genera pruebas a unas 110 palabras-fragmento (tokens) por segundo en una sola GPU H100 con Llama 4 Maverick, un modelo de 400,000 millones de parámetros. Cada prueba pesa unos 19 MB y se verifica en 17 segundos en un procesador común. Es entre 70 y 95 veces más costoso que generar la respuesta normal, pero muy lejos del único sistema abierto comparable, que tardaba más de 14 horas en procesar mil tokens.
Los límites, dichos por la propia Anthropic
La empresa insiste en que es investigación en curso y que no planea desplegarlo por ahora. Sólo funciona con contextos de hasta 1,024 tokens, oculta los pesos pero no la arquitectura del modelo, y únicamente sirve cuando el modelo elige siempre la palabra más probable, no con las respuestas con variación aleatoria que dan los chatbots en el uso diario. "Compartimos esto explícitamente con el objetivo de que otros vean lo que hicimos, lo tomen y lo mejoren", escribieron sus investigadores. El código y la especificación están en GitHub con licencia Apache 2.0.
Por qué importa en México
Cada vez más empresas mexicanas contratan IA a través de intermediarios: integradores, plataformas de atención al cliente o revendedores que prometen "el mejor modelo del mercado". Hoy el cliente tiene que confiar en la palabra del proveedor. Un mecanismo verificable de este tipo daría a bancos, aseguradoras, hospitales y gobierno una forma de auditar lo que realmente están pagando, algo que también interesa a cualquier futura regulación de IA en el país.
Por ahora es una pieza de investigación, no un producto. Pero apunta a una pregunta que conviene hacerle hoy a cualquier proveedor: ¿cómo puedo comprobar qué modelo está respondiendo?
Con información de TechCrunch y The Decoder.
