{"id":27072,"date":"2023-05-22T23:29:19","date_gmt":"2023-05-22T23:29:19","guid":{"rendered":"https:\/\/www.2b-advice.com\/?post_type=post&p=27072"},"modified":"2024-05-25T14:55:23","modified_gmt":"2024-05-25T14:55:23","slug":"le-plan-daction-de-la-cnil-francaise-pour-la-regulation-des-systemes-ki","status":"publish","type":"post","link":"https:\/\/2b-advice.com\/fr\/2023\/05\/22\/der-aktionsplan-der-franzosischen-cnil-zur-regulierung-von-ki-systemen\/","title":{"rendered":"Le plan d'action de la CNIL fran\u00e7aise pour la r\u00e9gulation des syst\u00e8mes d'IA"},"content":{"rendered":"
\n\t\t\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

Intelligence artificielle : le plan d'action de la CNIL fran\u00e7aise pour r\u00e9glementer les syst\u00e8mes d'IA<\/h2>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Introduction<\/h3>\n

Au vu des r\u00e9cents d\u00e9veloppements dans le domaine de l'intelligence artificielle (IA) et notamment des IA g\u00e9n\u00e9ratives telles que ChatGPT, la Commission Nationale de l'Informatique et des Libert\u00e9s (CNIL) a publi\u00e9 un plan d'action visant \u00e0 utiliser des syst\u00e8mes d'IA qui respectent la vie priv\u00e9e des individus. Les IA g\u00e9n\u00e9ratives sont un domaine \u00e9mergent de l'IA qui permet de g\u00e9n\u00e9rer des textes, des images et d'autres contenus sur la base d'instructions de l'utilisateur. Dans cet article, nous nous pencherons sur les d\u00e9tails de ce plan d'action et discuterons de son importance pour la protection de la vie priv\u00e9e.<\/p>\n

Le r\u00f4le de la CNIL<\/h3>\n

La CNIL a d\u00e9j\u00e0 r\u00e9alis\u00e9 ces derni\u00e8res ann\u00e9es un travail important pour pr\u00e9venir et r\u00e9pondre aux enjeux li\u00e9s \u00e0 l'IA. En 2023, la CNIL poursuivra son action de r\u00e9gulation des cam\u00e9ras avanc\u00e9es et \u00e9tendra ses travaux aux IA g\u00e9n\u00e9ratives, aux grands mod\u00e8les de langage et \u00e0 leurs applications d\u00e9riv\u00e9es comme les chatbots. Le plan d'action de la CNIL s'articule autour de quatre axes principaux :<\/p>\n

Comprendre le fonctionnement des syst\u00e8mes d'IA et leur impact sur les individus.
Promouvoir et r\u00e9glementer le d\u00e9veloppement d'une IA respectueuse de la vie priv\u00e9e.
Soutenir et collaborer avec les acteurs innovants de l'\u00e9cosyst\u00e8me de l'IA en France et en Europe.
l'audit et le contr\u00f4le des syst\u00e8mes d'IA pour la protection des individus.
Ces mesures visent \u00e9galement \u00e0 pr\u00e9parer la mise en \u0153uvre du r\u00e8glement europ\u00e9en sur l'IA, actuellement en discussion.<\/p>\n

La protection des donn\u00e9es \u00e0 caract\u00e8re personnel : un d\u00e9fi majeur<\/h3>\n

La progression de l'IA soul\u00e8ve des enjeux croissants en mati\u00e8re de protection des donn\u00e9es personnelles et des libert\u00e9s individuelles. La CNIL a d\u00e9j\u00e0 pris position sur les questions soulev\u00e9es par cette technologie depuis 2017 dans son rapport sur les enjeux \u00e9thiques des algorithmes et de l'intelligence artificielle.<\/p>\n

Les IA g\u00e9n\u00e9ratives ont fait de grands progr\u00e8s ces derniers mois, surtout dans le domaine du texte et de la conversation. Gr\u00e2ce \u00e0 l'utilisation de grands mod\u00e8les de langage comme GPT-3, BLOOM ou Megatron NLG et de chatbots d\u00e9riv\u00e9s comme ChatGPT ou Bard, ces syst\u00e8mes peuvent g\u00e9n\u00e9rer des textes tr\u00e8s proches de ceux produits par les humains. Des d\u00e9veloppements importants ont \u00e9galement eu lieu dans le domaine de la g\u00e9n\u00e9ration d'images et de la parole. Bien que ces mod\u00e8les et technologies soient d\u00e9j\u00e0 utilis\u00e9s dans diff\u00e9rents secteurs, leur fonctionnement, leurs possibilit\u00e9s et leurs limites, ainsi que les d\u00e9fis juridiques, \u00e9thiques et techniques qui y sont li\u00e9s, font encore l'objet d'intenses discussions.<\/p>\n

La CNIL publie son plan d'action pour la r\u00e9gulation de l'intelligence artificielle afin de souligner l'importance de la protection des donn\u00e9es \u00e0 caract\u00e8re personnel dans le d\u00e9veloppement et l'utilisation de ces outils. Elle se concentre en particulier sur les IA g\u00e9n\u00e9ratives.<\/p>\n

Que sont les IA g\u00e9n\u00e9ratives ?<\/h3>\n

Les IA g\u00e9n\u00e9ratives sont des syst\u00e8mes capables de cr\u00e9er des textes, des images et d'autres contenus (musique, vid\u00e9os, voix, etc.) sur la base d'instructions donn\u00e9es par des utilisateurs humains. Ces syst\u00e8mes peuvent g\u00e9n\u00e9rer de nouveaux contenus \u00e0 partir des donn\u00e9es utilis\u00e9es pour leur formation. Gr\u00e2ce au vaste ensemble de donn\u00e9es d'entra\u00eenement, ils peuvent obtenir des r\u00e9sultats d\u00e9j\u00e0 tr\u00e8s proches des productions humaines. Il est toutefois important que les utilisateurs sp\u00e9cifient clairement leurs demandes afin d'obtenir les r\u00e9sultats souhait\u00e9s. C'est pourquoi une expertise sp\u00e9cifique se d\u00e9veloppe en ce qui concerne la formulation des requ\u00eates des utilisateurs (prompt engineering).<\/p>\n

Le plan d'action de la CNIL en quatre \u00e9tapes<\/h3>\n

Ces derni\u00e8res ann\u00e9es, la CNIL a men\u00e9 des travaux importants sur la r\u00e9glementation de l'IA, en tenant compte des diff\u00e9rents types de syst\u00e8mes d'IA et de leurs cas d'utilisation. Son plan d'action s'articule autour de quatre objectifs principaux :<\/p>\n