⚖️
IA Responsable
🏛️
Gouvernance
🗄️
Gestion des données
🔒
Confidentialité
📐
Conception
⚙️
Implémentation
🔍
Vérification
🔧
Opérations
⚖️
Domaine 1/8
IA Responsable
Principes éthiques, équité et redevabilité dans le développement et l'usage de l'IA.
Pratique 1 Éthique de l'IA
A Gouvernance / Processus
Niveau 1
Votre organisation a-t-elle formalisé des principes éthiques pour guider le développement et l'usage de l'IA ? ℹ
Niveau 2
Ces principes éthiques sont-ils intégrés dans les processus décisionnels de tous vos projets IA ? ℹ
Niveau 3
Votre organisation dispose-t-elle d'un processus d'amélioration continue de son cadre éthique IA, avec des révisions régulières ? ℹ
B Technique / Implémentation
Niveau 1
Vos équipes développant des systèmes IA ont-elles reçu une formation sur l'éthique de l'IA et ses implications techniques ? ℹ
Niveau 2
Des mécanismes techniques sont-ils implémentés pour identifier et corriger les biais dans vos données et modèles IA ? ℹ
Niveau 3
Votre organisation utilise-t-elle des outils d'IA explicable (XAI) pour rendre transparentes les décisions de ses systèmes IA ? ℹ
Pratique 2 Équité et non-discrimination
A Gouvernance / Processus
Niveau 1
Votre organisation a-t-elle identifié les risques de discrimination potentiels liés à ses systèmes IA ? ℹ
Niveau 2
Des politiques sont-elles en place pour garantir l'équité et la non-discrimination dans le déploiement des systèmes IA ? ℹ
Niveau 3
Votre organisation réalise-t-elle des audits réguliers d'équité sur ses systèmes IA déployés ? ℹ
B Technique / Implémentation
Niveau 1
Des tests de biais sont-ils effectués avant le déploiement de vos modèles IA ? ℹ
Niveau 2
Votre organisation utilise-t-elle des métriques d'équité standardisées pour évaluer ses modèles IA ? ℹ
Niveau 3
Des systèmes de surveillance en temps réel de l'équité sont-ils déployés en production pour vos systèmes IA ? ℹ
Pratique 3 Responsabilité et redevabilité
A Gouvernance / Processus
Niveau 1
Les responsabilités concernant les décisions prises par les systèmes IA sont-elles clairement définies dans votre organisation ? ℹ
Niveau 2
Votre organisation dispose-t-elle d'un processus de gestion des réclamations pour les personnes affectées par des décisions automatisées ? ℹ
Niveau 3
Votre organisation publie-t-elle des rapports de transparence sur l'utilisation et l'impact de ses systèmes IA ? ℹ
B Technique / Implémentation
Niveau 1
Vos systèmes IA génèrent-ils des journaux (logs) permettant de tracer les décisions prises ? ℹ
Niveau 2
Des mécanismes d'explication des décisions automatisées sont-ils accessibles aux personnes concernées ? ℹ
Niveau 3
Un système complet d'audit et de traçabilité est-il implémenté pour l'ensemble de vos systèmes IA en production ? ℹ
🏛️
Domaine 2/8
Gouvernance
Stratégie IA, gestion des risques et conformité réglementaire au niveau organisationnel.
Pratique 4 Stratégie IA
A Gouvernance / Processus
Niveau 1
Votre organisation dispose-t-elle d'une stratégie IA formalisée, alignée avec ses objectifs business ? ℹ
Niveau 2
Cette stratégie IA est-elle revue et mise à jour régulièrement pour intégrer les évolutions technologiques et réglementaires ? ℹ
Niveau 3
Votre stratégie IA intègre-t-elle une vision à long terme avec des KPIs mesurables et un processus de gouvernance multi-niveaux ? ℹ
B Technique / Implémentation
Niveau 1
Un inventaire des systèmes et outils IA utilisés dans votre organisation est-il maintenu ? ℹ
Niveau 2
Des standards techniques pour le développement et le déploiement de l'IA sont-ils définis et documentés dans votre organisation ? ℹ
Niveau 3
Votre organisation dispose-t-elle d'une architecture de référence IA, avec des patterns de conception et une plateforme ML mutualisée ? ℹ
Pratique 5 Gestion des risques IA
A Gouvernance / Processus
Niveau 1
Votre organisation a-t-elle identifié les principaux risques liés à l'utilisation de l'IA dans ses activités ? ℹ
Niveau 2
Un processus formalisé d'évaluation et de traitement des risques IA est-il en place dans votre organisation ? ℹ
Niveau 3
La gestion des risques IA est-elle intégrée dans le dispositif global de gestion des risques d'entreprise de votre organisation ? ℹ
B Technique / Implémentation
Niveau 1
Des évaluations d'impact sont-elles réalisées avant le déploiement de nouveaux systèmes IA ? ℹ
Niveau 2
Des tests de robustesse et de sécurité sont-ils systématiquement effectués sur vos modèles IA ? ℹ
Niveau 3
Votre organisation dispose-t-elle d'un processus de red-teaming ou de tests adversariaux pour ses systèmes IA critiques ? ℹ
Pratique 6 Conformité et réglementation
A Gouvernance / Processus
Niveau 1
Votre organisation a-t-elle identifié les réglementations applicables à ses systèmes IA (ex : AI Act européen, RGPD) ? ℹ
Niveau 2
Un programme de conformité IA est-il en place, avec des responsabilités clairement assignées ? ℹ
Niveau 3
Votre organisation participe-t-elle activement à des groupes de travail sur les normes et réglementations IA ? ℹ
B Technique / Implémentation
Niveau 1
Des contrôles techniques sont-ils mis en place pour assurer la conformité réglementaire de vos systèmes IA ? ℹ
Niveau 2
Un processus de revue de conformité est-il appliqué avant la mise en production de toute nouvelle fonctionnalité IA ? ℹ
Niveau 3
Des outils automatisés de surveillance de la conformité sont-ils déployés pour vos systèmes IA en production ? ℹ
🗄️
Domaine 3/8
Gestion des données
Qualité, gouvernance et cycle de vie des données utilisées pour l'IA.
Pratique 7 Qualité des données
A Gouvernance / Processus
Niveau 1
Votre organisation a-t-elle défini des standards de qualité des données pour ses projets IA ? ℹ
Niveau 2
Un processus formel de gestion de la qualité des données est-il en place et systématiquement appliqué aux projets IA ? ℹ
Niveau 3
La qualité des données est-elle surveillée en continu avec des alertes automatiques et des processus de correction ? ℹ
B Technique / Implémentation
Niveau 1
Des contrôles de qualité sont-ils effectués sur les données avant leur utilisation pour l'entraînement de modèles IA ? ℹ
Niveau 2
Des pipelines de nettoyage et de validation des données sont-ils automatisés pour vos projets IA ? ℹ
Niveau 3
Votre organisation utilise-t-elle des outils de data quality spécialisés pour surveiller et améliorer en continu la qualité des données IA ? ℹ
Pratique 8 Gouvernance des données
A Gouvernance / Processus
Niveau 1
Votre organisation a-t-elle défini des politiques de gouvernance des données pour ses projets IA ? ℹ
Niveau 2
Un catalogue de données avec des métadonnées claires est-il maintenu pour les datasets utilisés en IA ? ℹ
Niveau 3
Votre organisation dispose-t-elle d'un cadre complet de gouvernance des données IA, incluant data stewardship et data lineage ? ℹ
B Technique / Implémentation
Niveau 1
Les sources de données utilisées pour l'entraînement des modèles IA sont-elles documentées et traçables ? ℹ
Niveau 2
Des outils de data lineage sont-ils utilisés pour tracer le parcours des données de la source au modèle IA ? ℹ
Niveau 3
Votre organisation dispose-t-elle d'une plateforme centralisée de gestion des données IA avec contrôle d'accès granulaire ? ℹ
Pratique 9 Cycle de vie des données
A Gouvernance / Processus
Niveau 1
Des politiques de rétention et de suppression des données utilisées pour l'IA sont-elles définies ? ℹ
Niveau 2
Le cycle de vie complet des données IA (collecte, stockage, usage, archivage, suppression) est-il géré selon des procédures formalisées ? ℹ
Niveau 3
Votre organisation dispose-t-elle d'un processus automatisé de gestion du cycle de vie des données, incluant la suppression des données obsolètes ? ℹ
B Technique / Implémentation
Niveau 1
Les données d'entraînement obsolètes ou incorrectes peuvent-elles être identifiées et supprimées de vos systèmes IA ? ℹ
Niveau 2
Des mécanismes de versioning des datasets sont-ils en place pour vos projets IA ? ℹ
Niveau 3
Votre organisation implémente-t-elle le droit à l'oubli (machine unlearning) pour ses modèles IA contenant des données personnelles ? ℹ
🔒
Domaine 4/8
Confidentialité
Protection de la vie privée, gestion du consentement et droits des personnes dans les systèmes IA.
Pratique 10 Vie privée dès la conception
A Gouvernance / Processus
Niveau 1
Votre organisation intègre-t-elle la protection de la vie privée dès la conception (Privacy by Design) de ses systèmes IA ? ℹ
Niveau 2
Des analyses d'impact sur la protection des données (AIPD/PIA) sont-elles systématiquement réalisées pour les projets IA ? ℹ
Niveau 3
Votre organisation dispose-t-elle d'un cadre de Privacy by Design mature, intégré dans tous les processus de développement IA ? ℹ
B Technique / Implémentation
Niveau 1
Des techniques de minimisation des données sont-elles appliquées dans vos projets IA (collecte uniquement des données nécessaires) ? ℹ
Niveau 2
Des techniques de protection de la vie privée (anonymisation, pseudonymisation) sont-elles utilisées dans vos projets IA ? ℹ
Niveau 3
Votre organisation utilise-t-elle des techniques avancées comme le federated learning ou le chiffrement homomorphe pour ses projets IA sensibles ? ℹ
Pratique 11 Gestion du consentement
A Gouvernance / Processus
Niveau 1
Votre organisation obtient-elle le consentement explicite des personnes dont les données sont utilisées pour entraîner des modèles IA ? ℹ
Niveau 2
Un processus formel de gestion du consentement est-il en place, incluant la possibilité de retrait à tout moment ? ℹ
Niveau 3
Votre organisation dispose-t-elle d'une plateforme de gestion du consentement intégrée à ses systèmes IA, avec reporting automatisé ? ℹ
B Technique / Implémentation
Niveau 1
Les systèmes IA collectant ou traitant des données personnelles sont-ils identifiés et documentés dans un registre des traitements ? ℹ
Niveau 2
Des mécanismes techniques permettent-ils aux personnes de retirer leur consentement et d'en voir les effets sur les modèles IA ? ℹ
Niveau 3
Votre organisation a-t-elle mis en place des APIs de consentement standardisées, intégrées à l'ensemble de son écosystème IA ? ℹ
Pratique 12 Droits des personnes
A Gouvernance / Processus
Niveau 1
Votre organisation a-t-elle défini des procédures pour répondre aux demandes d'exercice des droits RGPD liées à l'IA (accès, rectification, suppression) ? ℹ
Niveau 2
Un processus formalisé de traitement des demandes de droits des personnes est-il en place et respecté dans vos délais légaux ? ℹ
Niveau 3
Votre organisation mesure-t-elle et améliore-t-elle en continu ses délais et la qualité de réponse aux demandes de droits des personnes ? ℹ
B Technique / Implémentation
Niveau 1
Vos systèmes IA permettent-ils d'identifier et d'extraire les données personnelles d'un individu spécifique sur demande ? ℹ
Niveau 2
Des outils techniques facilitent-ils l'extraction, la correction ou la suppression de données personnelles dans vos systèmes IA ? ℹ
Niveau 3
Votre organisation dispose-t-elle de capacités de machine unlearning permettant de retirer l'influence d'individus spécifiques de vos modèles IA ? ℹ
📐
Domaine 5/8
Conception
Gestion des exigences, architecture des systèmes IA et conception sécurisée.
Pratique 13 Gestion des exigences
A Gouvernance / Processus
Niveau 1
Des exigences fonctionnelles et non-fonctionnelles sont-elles définies pour vos projets IA ? ℹ
Niveau 2
Les exigences des systèmes IA incluent-elles des critères de sécurité, d'équité et de performance clairement définis et mesurables ? ℹ
Niveau 3
Votre organisation dispose-t-elle d'un processus de gestion des exigences IA intégrant les aspects éthiques, légaux et techniques de manière systématique ? ℹ
B Technique / Implémentation
Niveau 1
Des critères d'acceptation techniques sont-ils définis pour valider que les modèles IA répondent aux exigences ? ℹ
Niveau 2
Des tests automatisés vérifient-ils que les modèles IA satisfont l'ensemble des exigences définies ? ℹ
Niveau 3
Votre organisation utilise-t-elle des frameworks de spécification formelle pour définir et vérifier les propriétés critiques de ses systèmes IA ? ℹ
Pratique 14 Architecture des systèmes IA
A Gouvernance / Processus
Niveau 1
Votre organisation documente-t-elle l'architecture de ses systèmes IA ? ℹ
Niveau 2
Des revues d'architecture sont-elles systématiquement effectuées pour les projets IA avant leur développement ? ℹ
Niveau 3
Votre organisation dispose-t-elle d'un framework d'architecture IA de référence, intégrant résilience, scalabilité et sécurité ? ℹ
B Technique / Implémentation
Niveau 1
Les composants d'un système IA (pipeline de données, modèle, API, stockage) sont-ils clairement identifiés et documentés ? ℹ
Niveau 2
Des patterns d'architecture sécurisés sont-ils appliqués dans le développement de vos systèmes IA ? ℹ
Niveau 3
Votre organisation implémente-t-elle des architectures résilientes pour ses systèmes IA critiques (haute disponibilité, reprise sur incident) ? ℹ
Pratique 15 Conception sécurisée
A Gouvernance / Processus
Niveau 1
La sécurité est-elle prise en compte dès la phase de conception de vos systèmes IA (Security by Design) ? ℹ
Niveau 2
Des modélisations de menaces (threat modeling) sont-elles élaborées pour identifier les menaces spécifiques à vos systèmes IA ? ℹ
Niveau 3
Votre organisation intègre-t-elle la sécurité by design dans tous ses projets IA, avec des processus de revue formalisés et des métriques de suivi ? ℹ
B Technique / Implémentation
Niveau 1
Les interfaces (APIs) de vos systèmes IA sont-elles conçues avec des contrôles d'accès appropriés ? ℹ
Niveau 2
Des contrôles de sécurité spécifiques à l'IA sont-ils intégrés dans la conception (protection contre l'empoisonnement de données, attaques adversariales) ? ℹ
Niveau 3
Votre organisation réalise-t-elle des analyses de surface d'attaque complètes pour ses systèmes IA, incluant les vecteurs spécifiques au Machine Learning ? ℹ
⚙️
Domaine 6/8
Implémentation
Développement sécurisé, entraînement des modèles et processus de déploiement.
Pratique 16 Développement sécurisé
A Gouvernance / Processus
Niveau 1
Des processus de développement sécurisé sont-ils définis et documentés pour les projets IA de votre organisation ? ℹ
Niveau 2
Un cycle de vie de développement sécurisé (SDL) est-il systématiquement appliqué à vos projets IA ? ℹ
Niveau 3
Votre organisation dispose-t-elle d'un programme de développement sécurisé IA mature, incluant formation, outillage et amélioration continue ? ℹ
B Technique / Implémentation
Niveau 1
Des revues de code sont-elles effectuées pour le code des pipelines de données et des modèles IA ? ℹ
Niveau 2
Des outils d'analyse statique et de sécurité sont-ils intégrés dans les pipelines CI/CD de vos projets IA ? ℹ
Niveau 3
Votre organisation utilise-t-elle des outils spécialisés pour détecter les vulnérabilités spécifiques au ML dans son code et ses modèles ? ℹ
Pratique 17 Entraînement et validation des modèles
A Gouvernance / Processus
Niveau 1
Des processus formalisés d'entraînement et de validation des modèles IA sont-ils définis et documentés ? ℹ
Niveau 2
La reproductibilité des expériences d'entraînement est-elle assurée par des processus et outils documentés ? ℹ
Niveau 3
Votre organisation dispose-t-elle d'une plateforme MLOps permettant de gérer l'ensemble du cycle de vie des modèles IA ? ℹ
B Technique / Implémentation
Niveau 1
Les hyperparamètres et configurations d'entraînement des modèles IA sont-ils versionnés et documentés ? ℹ
Niveau 2
Des métriques de performance, d'équité et de robustesse sont-elles mesurées et documentées lors de la validation des modèles ? ℹ
Niveau 3
Votre organisation utilise-t-elle des techniques avancées d'optimisation (AutoML, hyperparameter optimization) pour améliorer ses modèles IA ? ℹ
Pratique 18 Déploiement
A Gouvernance / Processus
Niveau 1
Un processus de déploiement formalisé existe-t-il pour la mise en production des modèles IA ? ℹ
Niveau 2
Des critères de go/no-go sont-ils définis et appliqués avant chaque déploiement de modèle IA en production ? ℹ
Niveau 3
Votre organisation applique-t-elle des stratégies de déploiement avancées (canary, blue/green, shadow mode) pour ses modèles IA critiques ? ℹ
B Technique / Implémentation
Niveau 1
Les déploiements de modèles IA sont-ils automatisés via des pipelines CI/CD ? ℹ
Niveau 2
Des tests de performance et de charge sont-ils réalisés avant le déploiement en production des modèles IA ? ℹ
Niveau 3
Votre organisation dispose-t-elle de capacités de rollback automatique en cas de dégradation des performances d'un modèle IA en production ? ℹ
🔍
Domaine 7/8
Vérification
Tests, surveillance des performances en production et audit des systèmes IA.
Pratique 19 Tests et assurance qualité
A Gouvernance / Processus
Niveau 1
Des procédures de test sont-elles définies pour valider les systèmes IA avant leur déploiement ? ℹ
Niveau 2
Un processus formel d'assurance qualité couvrant données, modèles et systèmes IA est-il en place ? ℹ
Niveau 3
Votre organisation dispose-t-elle d'un programme complet de tests IA, incluant équité, robustesse et conformité réglementaire ? ℹ
B Technique / Implémentation
Niveau 1
Des tests unitaires et d'intégration sont-ils réalisés pour les composants de vos systèmes IA ? ℹ
Niveau 2
Des tests automatisés spécifiques à l'IA (tests de régression de modèles, tests de dérive des données) sont-ils mis en place ? ℹ
Niveau 3
Votre organisation utilise-t-elle des techniques avancées de test (property-based testing, mutation testing) pour valider la robustesse de ses modèles IA ? ℹ
Pratique 20 Surveillance des performances
A Gouvernance / Processus
Niveau 1
Les performances des modèles IA en production sont-elles surveillées de manière régulière ? ℹ
Niveau 2
Des alertes sont-elles configurées pour détecter la dégradation des performances des modèles IA en production ? ℹ
Niveau 3
Votre organisation dispose-t-elle d'un système de surveillance proactive des modèles IA, incluant la détection de dérive et le réentraînement automatique ? ℹ
B Technique / Implémentation
Niveau 1
Des métriques de performance des modèles IA sont-elles collectées et visualisées en production ? ℹ
Niveau 2
Des outils de monitoring ML (ex : Evidently, Grafana, MLflow) sont-ils utilisés pour surveiller la dérive des données et des modèles en production ? ℹ
Niveau 3
Votre organisation dispose-t-elle de capacités de réentraînement automatique des modèles IA en réponse à la détection de dérive de performance ? ℹ
Pratique 21 Audit et revue
A Gouvernance / Processus
Niveau 1
Des revues périodiques des systèmes IA en production sont-elles planifiées et réalisées ? ℹ
Niveau 2
Un processus d'audit indépendant des systèmes IA est-il en place dans votre organisation ? ℹ
Niveau 3
Votre organisation réalise-t-elle des audits tiers réguliers de ses systèmes IA critiques et communique-t-elle sur les résultats ? ℹ
B Technique / Implémentation
Niveau 1
Les journaux (logs) des systèmes IA permettent-ils de reconstituer les décisions prises a posteriori ? ℹ
Niveau 2
Des outils d'analyse des logs spécifiques aux systèmes IA sont-ils utilisés pour identifier les anomalies et les biais en production ? ℹ
Niveau 3
Votre organisation dispose-t-elle d'un système d'audit automatisé et quasi-temps réel pour ses systèmes IA critiques ? ℹ
🔧
Domaine 8/8
Opérations
Gestion des incidents IA, gestion des changements et amélioration continue.
Pratique 22 Gestion des incidents IA
A Gouvernance / Processus
Niveau 1
Un processus de gestion des incidents spécifique aux systèmes IA est-il défini dans votre organisation ? ℹ
Niveau 2
Des procédures de réponse aux incidents IA (biais détecté, attaque adversariale, dérive) sont-elles documentées et testées régulièrement ? ℹ
Niveau 3
Votre organisation dispose-t-elle d'une équipe ou d'un centre opérationnel dédié à la gestion des incidents liés aux systèmes IA ? ℹ
B Technique / Implémentation
Niveau 1
Des mécanismes d'arrêt d'urgence (kill switch) sont-ils disponibles et testés pour vos systèmes IA critiques ? ℹ
Niveau 2
Des playbooks techniques de réponse aux incidents IA sont-ils documentés et régulièrement mis à jour ? ℹ
Niveau 3
Votre organisation dispose-t-elle de capacités de forensics IA permettant d'analyser en détail les incidents impliquant des systèmes IA ? ℹ
Pratique 23 Gestion des changements
A Gouvernance / Processus
Niveau 1
Un processus de gestion des changements s'applique-t-il aux systèmes IA en production de votre organisation ? ℹ
Niveau 2
Les changements de modèles, de données ou d'infrastructure IA sont-ils soumis à un processus d'évaluation d'impact et d'approbation formalisé ? ℹ
Niveau 3
Votre organisation applique-t-elle une approche de change management IA avancée, avec évaluation automatisée de l'impact et approbation basée sur les risques ? ℹ
B Technique / Implémentation
Niveau 1
Les changements apportés aux modèles IA en production sont-ils versionnés et documentés dans un registre ? ℹ
Niveau 2
Des tests de régression automatisés sont-ils exécutés avant tout changement sur des systèmes IA en production ? ℹ
Niveau 3
Votre organisation dispose-t-elle d'outils permettant de comparer et d'auditer tous les changements apportés à ses modèles IA en production ? ℹ
Pratique 24 Amélioration continue
A Gouvernance / Processus
Niveau 1
Des indicateurs de performance (KPIs) sont-ils définis pour mesurer la maturité IA de votre organisation ? ℹ
Niveau 2
Un processus d'amélioration continue de la maturité IA est-il en place, avec des objectifs annuels définis et suivis ? ℹ
Niveau 3
Votre organisation dispose-t-elle d'un programme formel d'amélioration continue de l'IA, incluant benchmarking externe et communautés de pratique ? ℹ
B Technique / Implémentation
Niveau 1
Des rétrospectives sont-elles organisées après les projets IA pour capitaliser sur les apprentissages et améliorer les pratiques ? ℹ
Niveau 2
Des outils de mesure et de suivi de la dette technique IA sont-ils utilisés pour piloter les efforts d'amélioration continue ? ℹ
Niveau 3
Votre organisation contribue-t-elle à l'écosystème IA (open source, publications, standards, certifications sectorielles) ? ℹ