Avec la généralisation croissante de l'intelligence artificielle (IA) dans les entreprises, la question du développement et de l'utilisation des systèmes d'IA dans le respect de la protection des données prend une importance croissante. La Conférence sur la protection des données (DSK) a publié à cet effet en juin 2025 le "Guide des mesures techniques et organisationnelles recommandées pour le développement et l'exploitation de systèmes d'intelligence artificielle". Ce document concrétise les exigences de la RGPD pour les traitements liés à l'IA et fournit un guide pratique pour les fabricants, les développeurs et les utilisateurs en ce qui concerne les systèmes d'IA.
Approche axée sur le cycle de vie et champ d'application des systèmes d'IA
La DSK articule les exigences posées aux systèmes d'IA tout au long de leur cycle de vie :
- Phase de conception
- Phase de développement
- Phase d'introduction
- Exploitation et suivi
Chaque phase est menée en tenant compte des sept objectifs de garantie du site Modèle standard de protection des données (SDM) évalué :
- Minimisation des données
- Disponibilité
- Confidentialité
- Intégrité
- Intervenabilité
- Transparence
- Non-enchaînement
Cadre juridique et responsabilités relatives aux systèmes d'IA
Les systèmes d'IA sont entièrement soumis à la RGPD. Les principes de base suivants sont notamment pertinents :
- Légitimité (art. 6 RGPD)
- Affectation des fonds (art. 5, al. 1, let. b RGPD)
- Minimisation des données (art. 5, al. 1, let. c RGPD)
- Transparence et Obligations d'information (Art. 13, 14 RGPD)
- Droits des personnes concernées (Art. 15-22 RGPD)
- Analyse d'impact relative à la protection des données (Art. 35 RGPD)
- Sécurité des Traitement (Art. 32 RGPD)
Fabricants et développeurs sont généralement considérés comme Responsable pour les phases de conception et de développement. Organisations d'utilisateurs assument la responsabilité de la mise en place et de l'exploitation.
1ère phase de conception
La phase de conception constitue la base d'un développement des systèmes d'IA conforme à la protection des données. C'est à ce stade précoce que sont prises les décisions essentielles concernant les objectifs, l'architecture et le traitement des données du système. L'objectif est de prendre en compte et de mettre en œuvre de manière appropriée les exigences en matière de protection des données dès le début.
Un élément central est ici la Transparence. Responsable doivent documenter en détail les sources des données d'entraînement et garantir leur provenance légale. La création de „ fiches techniques pour les ensembles de données ” s’est imposée comme une pratique éprouvée. Ces fiches techniques décrivent de manière transparente, entre autres, les catégories de données, les méthodes de collecte, la finalité et l’origine des données.
Dans le cadre de la Minimisation des données Il convient d'examiner quelles catégories de données sont réellement nécessaires à la fonctionnalité visée du système d'IA. Il faut choisir des algorithmes utilisant le moins de données possible. Il convient de toujours envisager l'utilisation de données anonymisées ou synthétiques. Des études pilotes et des analyses préliminaires permettent d'évaluer de manière réaliste les besoins réels en données à caractère personnel.
Dans une optique de non-corrélation, il convient d'éviter les risques qui pourraient découler de l'association de données provenant de sources différentes. L'utilisation d'attributs « proxy », qui permettent de déduire indirectement des caractéristiques sensibles, est particulièrement critique.
Afin de Droits des personnes concernées (par ex. renseignements, Rectification, Suppression), il convient de définir, dès la phase de conception, des processus organisationnels et des mesures techniques d'interopérabilité.
De plus, les exigences relatives à Disponibilité, Intégrité et Confidentialité doivent être pris en compte. Il s'agit notamment de la mise en place de concepts de sauvegarde robustes, de mesures visant à garantir l'intégrité des données et des systèmes, ainsi que de dispositions préventives contre l'empoisonnement des données ou les attaques par porte dérobée. Les mécanismes de contrôle d'accès et les stratégies de chiffrement doivent également être spécifiés dès la phase de conception.
2ème phase de développement
Au cours de la phase de développement d'un système d'IA, les exigences définies lors de la phase de conception sont concrètement mises en œuvre sur le plan technique. C'est au cours de cette phase que les algorithmes d'IA sont mis en œuvre, que les données d'apprentissage sont préparées et que l'apprentissage proprement dit ainsi que la validation des modèles d'IA sont effectués.
A ce stade, une préoccupation centrale du guide d'orientation de DSK est Transparence. Responsable doivent donc documenter de manière exhaustive l'ensemble du processus d'apprentissage. Cela implique une description précise des données d'apprentissage, des méthodes d'apprentissage utilisées et des critères de sélection des algorithmes employés. Toutes les décisions prises au cours de l'apprentissage qui ont une incidence sur les performances ultérieures du modèle et sur le traitement des données doivent également être consignées de manière traçable.
Dans l'esprit de la Minimisation des données Seules les données absolument nécessaires à l'objectif de formation défini peuvent être traitées. La collecte excessive ou spéculative de données est interdite. Dans le cas particulier des „ systèmes d'IA composites ” à structure modulaire, il convient de veiller à ce que chaque composant ne reçoive que les données qui lui sont nécessaires.
L'objectif de garantie de la non-chaînage exige que les modèles d'IA soient entraînés exclusivement dans le but défini lors de la phase de conception. L’acquisition involontaire d’informations sensibles supplémentaires (provenant par exemple de variables fortement corrélées) doit être activement empêchée. À cette fin, des mécanismes de contrôle statistiques et techniques appropriés doivent être mis en place.
En ce qui concerne la possibilité d'intervention, il convient de s'assurer, dès la phase de développement, que les demandes ultérieures de suppression ou de correction soient techniquement réalisables. Il convient donc d'envisager dès le début des procédures telles que le „ machine unlearning ” ou le réentraînement modulaire sans ensembles de données spécifiques.
Concernant les Intégrité les responsables doivent s'assurer que les données de formation, de validation et de test sont correctes, complètes et exemptes de toute manipulation. Des mesures telles que la validation des données, la détection des biais et la protection contre l'empoisonnement des données et les attaques adverses (par exemple, les attaques par évasion) sont obligatoires.
De même, les Confidentialité joue un rôle prépondérant : les données d'entraînement et les modèles doivent être protégés contre tout accès non autorisé ainsi que contre des attaques telles que l'extraction de modèles ou les attaques par inférence d'appartenance. Le cas échéant, les résultats intermédiaires doivent être anonymisés ou agrégés afin de réduire au minimum le caractère personnel des données.
3. Phase d'introduction
La phase de mise en service décrit le passage d'un système d'IA de l'environnement de développement à une utilisation en production. Au cours de cette phase, l'accent est notamment mis sur les questions relatives à la distribution et à la configuration du logiciel dans le respect de la protection des données.
L'un des principaux objectifs est d'assurer la transparence vis-à-vis des utilisateurs et des personnes concernées. Les responsables doivent fournir des informations sur le fonctionnement du système d'IA, les sources de données utilisées, l'architecture du système et les facteurs influençant la prise de décision. Les options de configuration et leurs implications en matière de protection des données doivent également être documentées de manière compréhensible. Cela inclut la divulgation des éléments fournis du système d'IA (par exemple, les paramètres du modèle, les versions du système, les fichiers de configuration).
En ce qui concerne les Minimisation des données Il convient de veiller à ce que seules les données à caractère personnel nécessaires à la finalité visée soient fournies et traitées. À cet égard, la distinction entre les modèles paramétriques (par exemple, les réseaux neuronaux, qui ne contiennent plus de données brutes) et les modèles non paramétriques (par exemple, les algorithmes des k plus proches voisins, qui nécessitent toujours des données d’apprentissage) revêt une importance particulière. Ces différences déterminent quelles données peuvent être transmises dans le cadre de la distribution du logiciel.
Du point de vue de la Confidentialité Des mesures de protection appropriées doivent être prises lors de la mise à disposition et de la distribution du système d'IA. Il s'agit notamment de techniques de chiffrement, de restrictions d'accès et du contrôle du cercle des destinataires de la distribution du logiciel. Si des données d'entraînement à caractère personnel font partie intégrante du système livré, celles-ci doivent également faire l'objet de ces mesures de protection particulières.
En outre, il convient de noter que la livraison du système peut être pertinente du point de vue de la protection des données, même si, à ce stade, il n'y a pas d'action active. Traitement des données à caractère personnel est effectuée, car elle constitue la base des traitements de données ultérieurs.
Dans l'ensemble, la phase de mise en place jette les bases d'un environnement d'exploitation du système d'IA respectueux de la protection des données. Elle nécessite une planification minutieuse, Documentation et la sécurisation technique des composants logiciels livrés.
Conseil de lecture : Intérêt légitime dans le développement de systèmes d'IA : Orientation de la CNIL
4. exploitation et suivi
La phase „ Exploitation et surveillance ” décrit l'utilisation active d'un système d'IA ainsi que la surveillance continue de son fonctionnement et de sa conformité en matière de protection des données. Elle débute avec la mise en service du système d'IA en production et englobe toutes les activités courantes d'exploitation et de maintenance.
L'un des principaux objectifs du guide d'orientation de DSK à ce stade est de Transparence. Responsable Ils doivent donc documenter de manière conforme aux exigences d'audit toutes les opérations de traitement, mises à jour du système et adaptations des modèles. Cela comprend notamment la consignation des données utilisées, des versions des modèles d'IA et des modifications apportées au système. L'historique des décisions du système d'IA doit également, dans la mesure du possible, être archivé de manière traçable, en particulier dans le cas de décisions automatisées ayant des effets juridiques.
En ce qui concerne les Minimisation des données il convient de vérifier en permanence si les données à caractère personnel collectées et traitées dans l'entreprise sont encore nécessaires aux fins fixées. Si ce n'est pas le cas, les données doivent être supprimées ou rendues anonymes. Le retour d'informations des utilisateurs en vue d'améliorer le système d'IA nécessite également une utilisation économe en données. Traitement assurer.
La possibilité d'intervenir doit être garantie à tout moment. Cela inclut la possibilité de, Droits des personnes concernées comme des renseignements, Rectification ou Suppression à tout moment de manière efficace. Des solutions techniques telles que des systèmes de filtrage ou des contrôles d'entrée et de sortie permettent d'éviter ou de corriger les sorties de modèles non souhaitées. Obligations de suppression concernant les données contenues dans le modèle données à caractère personnel (Machine Unlearning) doivent également être mises en œuvre, dans la mesure où cela est techniquement possible.
Afin de Intégrité du système d'IA, les entreprises doivent s'assurer qu'il n'est pas compromis par des attaques adverses (par exemple, des entrées manipulées) ou des modifications non autorisées du modèle. Des tests réguliers, des validations et des évaluations des risques - par exemple par le biais de Red Teaming - sont des éléments importants d'une exploitation sécurisée.
De même, les Confidentialité est d'une importance capitale dans les opérations courantes. Contrôles d'accès, Cryptage et la journalisation doivent empêcher que des personnes non autorisées aient accès à des paramètres de modèle sensibles ou à des données de base. données à caractère personnel Il convient de surveiller de près, en particulier lors de l'utilisation de systèmes de génération augmentée par la recherche (RAG), qui est autorisé à accéder à quelles sources de données.
Autres aspects relatifs aux systèmes d'IA
Outre les exigences spécifiques à chaque phase énoncées dans le guide d'orientation de la DSK, d'autres aspects importants doivent être pris en compte pour garantir que le développement et l'exploitation des systèmes d'IA soient conformes à la protection des données.
Gestion des systèmes d'IA à haut risque
Les systèmes d'IA dits « à haut risque » au sens du règlement sur l'IA (KI-VO) sont soumis à des exigences plus strictes. Celles-ci concernent notamment la Documentation des données utilisées, des algorithmes et des décisions de modélisation, ainsi qu’un système de gestion de la qualité contraignant. Les entreprises doivent s’assurer que les systèmes d’IA ont fait l’objet des procédures d’évaluation de la conformité requises. Des analyses de risques régulières et la mise en œuvre d’une Analyse d'impact relative à la protection des données (DSFA) sont obligatoires à cet égard.
Prise en compte des modèles proposés par des fournisseurs tiers
Lors de l'utilisation de modèles d'IA développés en externe ou pré-entraînés (par exemple, des LLM open source ou des services basés sur des API), des contrôles supplémentaires en matière de sécurité et de protection des données doivent être effectués. Il s'agit notamment :
- Une vérification de l'origine et de la qualité des données d'entraînement
- Le contrôle visant à détecter d'éventuelles attaques par porte dérobée ou l'empoisonnement des données
- La garantie contractuelle des obligations de protection des données par le fournisseur
- L'évaluation des risques d'extraction de modèles ou d'attaques par inférence de membres
Les entreprises devraient s'assurer que la traçabilité et l'intégrité des données sont également garanties. Transparence est documentée pour ces modèles tiers. De plus, l'utilisation de tels modèles est régulièrement soumise à RGPD- Vérifier la conformité.
Rédaction du contrat
La DSK recommande de prendre en compte les exigences spécifiques en matière de protection des données dès la phase de rédaction des contrats avec les fournisseurs et les prestataires de services. Les éléments importants du contrat devraient notamment inclure :
- Définition claire des responsabilités (relation entre le responsable du traitement et le sous-traitant)
- Exigences relatives aux mesures techniques et organisationnelles (TOM)
- Audit- et les droits de contrôle du donneur d'ordre
- Dispositions relatives à la restitution des données, -suppression et la portabilité
- Accords relatifs aux obligations de notification en cas de violation de la protection des données
C'est précisément lors de l'utilisation d'offres « IA en tant que service » que les dispositions contractuelles sont essentielles pour garantir un niveau adéquat de protection des données, même lorsque les processus de traitement sont externalisés. Gestion des systèmes d’IA à haut risque Les systèmes d’IA à haut risque au sens du règlement sur l’IA sont soumis à des exigences supplémentaires en matière de documentation et de gestion de la qualité.
Conclusion et recommandations pratiques
Le guide d'orientation de DSK offre pour la première fois une une guidance systématique, pratique et juridiquement fondée pour l'ensemble du cycle de vie de l'IA. Elle impose des exigences élevées en matière de Documentation, la conception technique et les processus organisationnels. Les entreprises doivent, dès le début, Protection des données intégrer à toutes les étapes du développement et de l'utilisation de l'IA.
La mise en œuvre des exigences définies dans le guide d'orientation de la DSK nécessite de la part des entreprises une approche stratégique et structurée. Les recommandations suivantes ont pour but d'aider les organisations à intégrer de manière pratique et efficace les exigences en matière de protection des données dans leurs processus :
- Élaborer un plan d'action sur la protection des données de l'IA : Avant même le lancement du projet, il convient d'élaborer un plan détaillé définissant les vérifications, les mesures et les responsabilités nécessaires en matière de protection des données. Ce plan doit prendre en compte toutes les phases du cycle de vie d'un système d'IA.
- Réalisation précoce et répétée d'analyses d'impact relatives à la protection des données (AIPD) : Une DSFA doit être réalisée pour tous les projets d'IA présentant un risque élevé. À cet égard, il est recommandé d'adopter une approche itérative : les premières évaluations sont effectuées dès la phase de conception, puis d'autres mises à jour sont réalisées au cours des phases de développement et d'exploitation.
- Création d'un organe de gouvernance de l'IA : Cette équipe interdisciplinaire, composée de délégués à la protection des données, de spécialistes de la sécurité informatique, de développeurs en intelligence artificielle et Conformité-Le responsable supervise l'accompagnement des projets d'IA en matière de protection des données, évalue les risques et coordonne les mesures à prendre.
- Formations et Sensibilisation-Mesures destinées aux équipes de développement et aux équipes produit : Il est essentiel de sensibiliser l'ensemble des participants au projet d'IA aux exigences en matière de protection des données. Cela inclut des formations sur des thèmes tels que Minimisation des donnéesLes exigences en matière de transparence, les évaluations des risques et les droits des personnes concernées.
- Mise en place d'un processus de suivi et d'audit : Les entreprises doivent vérifier en permanence que leurs systèmes d'IA respectent les exigences en matière de protection des données. Cela implique notamment de réaliser des audits réguliers des processus de traitement des données, de contrôler l'efficacité des mesures techniques de protection et d'évaluer en permanence les risques.
- Documentation et suivi des justificatifs : Toutes les décisions, mesures et vérifications relatives à la protection des données devraient être documentées de manière compréhensible, afin de répondre aux exigences de l'obligation de rendre compte visée à l'article 5, paragraphe 2. RGPD de répondre à la demande.
- Mise en place d'un plan d'intervention en cas d'incident lié à des violations de données impliquant l'IA : Les systèmes d'IA présentant des risques spécifiques, il convient de mettre en place un plan d'urgence définissant des procédures de réaction et de notification rapides ainsi que des mesures correctives appropriées en cas d'incidents liés à la protection des données.
Prochaines étapes avec Ailance - Gestion intégrée des risques
Souhaitez-vous mettre en œuvre de manière efficace et durable les exigences du guide DSK au sein de votre entreprise ? Notre logiciel Ailance – Gestion intégrée des risques vous aide à identifier, évaluer et gérer les risques liés à la protection des données à toutes les étapes du cycle de vie de l'IA.
Avec Ailance, vous pouvez :
Réaliser et documenter systématiquement les analyses d'impact relatives à la protection des données (AIPD)
Mesures techniques et organisationnelles (TOMs) spécifiques à l'IA et en assurer le suivi
Gérer efficacement les risques liés à vos fournisseurs et à vos tiers
Audit- et Conformité- Rédiger des documents destinés aux audits internes et externes
Droits des personnes concernées et gérer efficacement les processus de réponse aux incidents
Prenez rendez-vous avec nous, cela en vaut la peine !
German 
English 
Italian 
French