Privacy auditing of AI models ou Paname : tel est le projet impliquant la Cnil, l’Anssi, le Peren (pôle d’expertise de la régulation numérique) et le projet Ipop du Pepr Cybersécurité pour développer un outil d’audit de la confidentialité des modèles d’IA. Ce dernier vise à palier certain nombre d’obstacles à leur appropriation par les industriels (flot de littérature académique éparse et foisonnante, des cas d’usage pas toujours adaptés à un contexte industriel, manque de standardisation pour formaliser le codage des tests de confidentialité…)

Pendant 18 mois, ces partenaires travailleront au développement d’une bibliothèque logicielle disponible toute ou partie en open source, destinée à unifier la façon dont la confidentialité des modèles est testée. « L’objectif de l’outil est de permettre une mise en œuvre efficace et à moindre coût de certains tests d’évaluation technique de confidentialité que les acteurs de l’écosystème IA sont susceptibles de réaliser pour évaluer la conformité RGPD d’un modèle d’IA. Des phases de tests avec des administrations et des industriels sont prévues afin de s’assurer que le développement de l’outil se fait en cohérence avec leur contexte d’utilisation », a expliqué la Cnil.

Dans le cadre de ce projet la commission nationale de l’informatique et des libertés  assurera son pilotage et son cadrage juridique, tandis que l’agence nationale de la sécurité des systèmes d’information apportera son expertise en cybersécurité. Le Peren sera principalement en charge du développement de la bibliothèque alors que le projet IPoP assurera sa direction scientifique.