La CNIL et l’ANSSI lancent un appel pour tester l’outil PANAME d’audit des IA

La CNIL, l’ANSSI, le PEReN et Inria ont lancé un appel à manifestation d’intérêt pour tester la librairie PANAME (Privacy Auditing of AI Models). Ce projet, initié en juin 2025, vise à évaluer la confidentialité des modèles d’intelligence artificielle face aux risques d’extraction de données personnelles. Les tests porteront sur des techniques d’extraction et de réidentification issues des jeux d’entraînement. Depuis plus de dix ans, les modèles d’IA peuvent mémoriser des données d’entraînement, extraites soit par des méthodes statistiques sur les paramètres internes, comme la fonction de coût ou les activations, soit par des prompts directs, surtout avec les IA génératives. En décembre 2024, le Comité européen de la protection des données a statué que le RGPD s’applique dès qu’un modèle restitue des données personnelles, obligeant les fournisseurs à prouver la résistance de leurs systèmes. La CNIL avait anticipé cela avec ses recommandations d’avril 2024 sur l’IA et le RGPD. La librairie PANAME permettra aux acteurs de l’écosystème, entreprises, start-ups, laboratoires et institutions, de vérifier la robustesse de leurs modèles. Les retours d’expérience enrichiront l’outil pour une évaluation opérationnelle de la conformité au RGPD. L’appel est ouvert du 26 février 2026 au 28 mars 2026, avec des dossiers à adresser à paname-test@inria.fr. Cette initiative française s’inscrit dans un contexte européen où les autorités exigent des preuves concrètes d’anonymisation pour les modèles d’IA. Les tests pourraient aboutir à une qualification de modèles « anonymes », facilitant leur déploiement tout en protégeant les données personnelles.