Le plan d'action de la CNIL française pour la régulation des systèmes d'IA

Introduction

Compte tenu des récentes évolutions dans le domaine de l'intelligence artificielle (IA) et, en particulier, des IA génératives telles que ChatGPT, la Commission nationale de l’informatique et des libertés (CNIL) a publié un plan d'action visant à mettre en œuvre des systèmes d'IA qui Vie privée des individus. Les IA génératives constituent un domaine émergent de l'IA qui permet la création de textes, d'images et d'autres contenus à partir des instructions fournies par l'utilisateur. Dans cet article, nous allons examiner en détail ce plan d'action et son importance pour la protection de la Vie privée discuter.

Le rôle de la CNIL

Ces dernières années, la CNIL a déjà mené des travaux approfondis visant à prévenir et à relever les défis liés à l'IA. En 2023, la CNIL poursuivra ses actions en matière de réglementation des caméras avancées et étendra ses travaux aux IA génératives, aux grands modèles linguistiques et à leurs applications dérivées, telles que les chatbots. Le plan d'action de la CNIL s'articule autour de quatre axes principaux :

Compréhension du fonctionnement des systèmes d'IA et de leurs répercussions sur les individus.
Promotion et réglementation du développement d'une IA respectueuse de la protection des données.
Soutien et collaboration avec des acteurs innovants de l'écosystème de l'IA en France et en Europe.
Évaluation et contrôle des systèmes d'IA visant à protéger les personnes.
Ces mesures visent également à préparer la mise en œuvre du règlement européen sur l'IA, actuellement en discussion.

La protection des données à caractère personnel : un défi majeur

À mesure que l'IA progresse, elle soulève de plus en plus de défis en matière de protection des données et des libertés individuelles. Dès 2017, dans son rapport sur les enjeux éthiques des algorithmes et de l'intelligence artificielle, la CNIL a pris position sur les questions soulevées par cette technologie.

Ces derniers mois, les IA génératives ont fait d'énormes progrès, notamment dans le domaine du texte et de la conversation. Grâce à l'utilisation de grands modèles linguistiques tels que GPT-3, BLOOM ou Megatron NLG, et de chatbots dérivés comme ChatGPT ou Bard, ces systèmes sont capables de générer des textes très proches de ceux rédigés par des humains. Des avancées significatives ont également été enregistrées dans le domaine de la génération d'images et de la synthèse vocale. Bien que ces modèles et technologies soient déjà utilisés dans divers secteurs, leur fonctionnement, leurs possibilités et leurs limites, ainsi que les défis juridiques, éthiques et techniques qui y sont liés, font encore l'objet de débats intenses.

La CNIL publie son plan d'action sur la réglementation de l'intelligence artificielle afin de souligner l'importance de la protection des données à caractère personnel dans le cadre du développement et de l'utilisation de ces outils. Elle met notamment l'accent sur les IA génératives.

Que sont les IA génératives ?

Les IA génératives sont des systèmes capables de créer des textes, des images et d'autres contenus (musique, vidéos, parole, etc.) à partir d'instructions fournies par des utilisateurs humains. Ces systèmes peuvent générer de nouveaux contenus à partir des données utilisées pour leur apprentissage. Grâce à un ensemble de données d'entraînement très complet, ils parviennent à obtenir des résultats déjà très proches de ceux produits par des humains. Il est toutefois important que les utilisateurs précisent clairement leurs demandes afin d'obtenir les résultats souhaités. C'est pourquoi une expertise spécifique se développe en matière de formulation des demandes des utilisateurs (prompt engineering).

Le plan d'action de la CNIL en quatre étapes

Ces dernières années, la CNIL a mené des travaux approfondis sur la réglementation de l'IA, en prenant en compte différents types de systèmes d'IA et leurs cas d'utilisation. Son plan d'action s'articule autour de quatre objectifs principaux :

• Fonctionnement et impact de l'IA sur les Vie privée et les droits des individus
• Mise en place d'un cadre juridique régissant l'utilisation des systèmes d'IA, qui Protection des données garanti
• Soutien et collaboration avec les innovateurs en IA en France et en Europe
• Évaluation et contrôle des systèmes d'IA afin de garantir les droits et la protection des personnes

“ Ce qui me plaît dans ce plan d’action, c’est qu’il vise dans un premier temps à mieux comprendre le fonctionnement des systèmes d’IA, ainsi que leurs éventuelles répercussions sur les individus ”, commente Marcus Belke, PDG du groupe 2B Advice, un groupe d’entreprises qui propose depuis 20 ans des solutions en matière de protection des données. “ Ce qui manque toutefois, c’est un point à l’ordre du jour consacré aux opportunités que l’IA offre en matière de protection des données ”, poursuit Marcus Belke.

La CNIL va renforcer ses mesures de contrôle et examiner en particulier l'utilisation des IA génératives, afin de s'assurer que les entreprises qui développent, entraînent ou utilisent des systèmes d'IA ont pris les mesures appropriées pour protéger les données à caractère personnel. Son objectif est d'établir des règles claires et protectrices concernant le traitement des données à caractère personnel dans les systèmes d'IA.

Grâce à cet ensemble de mesures, la CNIL souhaite contribuer au développement de systèmes d'IA respectueux de la protection des données, tout en Vie privée et protéger les droits des citoyennes et citoyens européens.

Avec son plan d'action, la CNIL espère aider les délégués à la protection des données (DPD) à relever les défis liés à l'intelligence artificielle (IA). En fournissant des lignes directrices et des mesures claires visant à garantir la protection des données dans les systèmes d’IA, les délégués à la protection des données au sein des entreprises et des organisations seront mieux préparés à faire face aux implications des technologies d’IA. Le plan d’action de la CNIL offre une base pour la mise en place d’un cadre respectueux de la protection des données pour l’utilisation de l’IA et aide les délégués à la protection des données à mettre en œuvre des mesures efficaces de protection des données et à protéger les droits et libertés des personnes concernées. Le travail de la CNIL constitue donc un outil précieux pour les délégués à la protection des données, leur permettant de relever les défis en matière de protection des données liés à l’IA et de garantir la protection des données à caractère personnel.