Alors que les systèmes d'intelligence artificielle (IA), en particulier ceux basés sur l'apprentissage automatique (ML), deviennent essentiels pour des applications à enjeux élevés, leur nature probabilistique et opaque pose des défis importants aux méthodes traditionnelles de vérification et de validation. Ces défis sont exacerbés dans les secteurs réglementés nécessitant des preuves inviolables et auditables, comme le souligne des cadres juridiques appropriés, par exemple, la loi sur l'IA de l'UE. En revanche, les preuves à divulgation nulle (ZKP) offrent une solution cryptographique qui permet aux prouveurs de démontrer, par des calculs vérifiés, le respect des exigences fixées sans révéler des détails sensibles du modèle ou des données. À travers une enquête systématique des protocoles de ZKP, nous identifions cinq propriétés clés (non-interactivité, configuration transparente, représentations standard, brièveté et sécurité post-quantique) cruciales pour leur application dans les pipelines de validation et de vérification de l'IA. Par la suite, nous réalisons une enquête systématique de suivi analysant les applications de ML améliorées par des ZKP à travers une adaptation du modèle Team Data Science Process (TDSP) (Données & Prétraitement, Entraînement & Métriques Hors Ligne, Inférence et Métriques En Ligne), détaillant les objectifs de vérification, les modèles de ML et les protocoles adoptés. Nos résultats indiquent que la recherche actuelle sur le ML amélioré par ZKP se concentre principalement sur la vérification de l'inférence, tandis que les étapes de prétraitement des données et d'entraînement restent sous-explorées. Notamment, notre analyse identifie une convergence significative au sein du domaine de recherche vers le développement d'un cadre unifié d'opérations de Machine Learning à divulgation nulle (ZKMLOps). Ce cadre émergent exploite les ZKP pour fournir des garanties cryptographiques robustes de correction, d'intégrité et de confidentialité, promouvant ainsi une responsabilité, une transparence et une conformité accrues aux principes de l'IA fiable.
Scaramuzza et al. (Mon,) ont étudié cette question.