Ingeniería de Operaciones de Aprendizaje Automático Confiables con Pruebas de Conocimiento Cero

A medida que los sistemas de Inteligencia Artificial (IA), particularmente aquellos basados en aprendizaje automático (ML), se convierten en parte integral de aplicaciones de alto riesgo, su naturaleza probabilística y opaca plantea desafíos significativos para los métodos tradicionales de verificación y validación. Estos desafíos se agravan en sectores regulados que requieren evidencia a prueba de manipulaciones y auditable, como lo destacan los marcos legales pertinentes, por ejemplo, la Ley de IA de la UE. Por el contrario, las Pruebas de Conocimiento Cero (ZKPs) ofrecen una solución criptográfica que permite a los demostradores mostrar, a través de cálculos verificados, el cumplimiento de los requisitos establecidos sin revelar detalles sensibles del modelo o datos. A través de una encuesta sistemática de los protocolos ZKP, identificamos cinco propiedades clave (no interactividad, configuración transparente, representaciones estándar, brevedad y seguridad post-cuántica) críticas para su aplicación en los pipelines de validación y verificación de IA. Posteriormente, realizamos una encuesta sistemática de seguimiento analizando aplicaciones de ML mejoradas con ZKP a través de una adaptación del modelo de Proceso de Ciencia de Datos del Equipo (TDSP) (Datos y Preprocesamiento, Entrenamiento y Métricas Offline, Inferencia y Métricas Online), detallando los objetivos de verificación, modelos de ML y protocolos adoptados. Nuestros hallazgos indican que la investigación actual sobre ML mejorado con ZKP se centra principalmente en la verificación de inferencia, mientras que las etapas de preprocesamiento de datos y entrenamiento siguen estando poco exploradas. Más notablemente, nuestro análisis identifica una convergencia significativa dentro del dominio de la investigación hacia el desarrollo de un marco unificado de Operaciones de Aprendizaje Automático con Conocimiento Cero (ZKMLOps). Este marco emergente aprovecha las ZKPs para proporcionar garantías criptográficas robustas de corrección, integridad y privacidad, promoviendo así una mayor responsabilidad, transparencia y cumplimiento con los principios de IA Confiable.