Avec l'AI Act, les États membres de l'UE ont adopté la première loi au monde pour réglementer l'IA. Aperçu des principales réglementations.
AI Act première loi sur l'IA au monde
Le Conseil des 27 États membres de l'UE a adopté, le 21 mai 2024, l'AI Act, qui constitue un cadre uniforme régissant l'utilisation de l'intelligence artificielle dans l'Union européenne. L'AI Act est ainsi le premier ensemble complet de règles au monde en matière de Intelligence artificielle.
„ Avec la loi sur l'IA, l'UE dispose désormais d'une base solide pour la réglementation de l'intelligence artificielle, qui renforce la confiance et l'acceptation de cette technologie et favorise les innovations ‚made in Europe‘ “, explique le gouvernement fédéral dans un communiqué.
La loi sur l’IA stipule que les applications d’IA ne doivent pas faire l’objet d’abus. La protection des droits fondamentaux doit également être garantie. D’un autre côté, la science et l’économie ont besoin d’une marge de manœuvre pour innover. C’est pourquoi l’AI Act adopte une „ approche fondée sur les risques “. Cela signifie que plus le risque d’une application est jugé élevé, plus les exigences sont strictes.
L'AI Act reconnaît quatre groupes de risques
L'AI Act classe donc les applications d'IA en quatre groupes de risques :
- risque inacceptable
- risque élevé
- risque limité
- risque faible ou nul.
Les applications présentant le niveau de risque le plus faible peuvent être utilisées sans aucune restriction. Citons par exemple les filtres anti-spam dans les boîtes mail ou les applications d'IA dans les jeux vidéo ou l'électronique grand public.
Applications d'IA interdites
Les systèmes d'IA pouvant être utilisés pour influencer de manière ciblée le comportement des personnes et les manipuler constituent, par exemple, un risque inacceptable. Ils sont tout aussi interdits que le „ social scoring “ basé sur l'IA, c'est-à-dire l'attribution de points pour un comportement souhaité.
Les nouvelles réglementations interdisent également certaines applications d'IA qui mettent en danger les droits des citoyens. Parmi celles-ci figurent notamment la catégorisation biométrique sur la base de caractéristiques sensibles et la collecte aléatoire d'images faciales sur Internet ou à partir de caméras de surveillance à des fins d'alimentation de bases de données de reconnaissance faciale. Les systèmes de reconnaissance faciale sur le lieu de travail et dans les établissements scolaires seront également interdits à l'avenir.
Obligations relatives aux systèmes d'IA à haut risque
Certaines obligations sont également prévues pour d'autres systèmes d'IA à haut risque, car ceux-ci peuvent présenter un danger considérable pour la santé, la sécurité, les droits fondamentaux, l'environnement, la démocratie et l'État de droit.
Sont notamment considérés comme des systèmes à haut risque les systèmes d’IA utilisés dans les domaines des infrastructures critiques, de l’éducation et de la formation professionnelle ou de l’emploi. Sont également considérés comme présentant un risque élevé les systèmes d’IA utilisés pour des services privés et publics essentiels, par exemple dans les secteurs de la santé ou de la banque, dans certains domaines de la répression, ainsi que dans le cadre de la migration et de la protection des frontières, de la justice et des processus démocratiques (par exemple pour influencer les élections).
Ces systèmes d'IA à haut risque sont soumis à une obligation d'enregistrement (art. 49 de la loi sur l'IA).
De plus, les citoyens de l'UE auront désormais le droit de contester les décisions prises sur la base de systèmes d'IA à haut risque et qui portent atteinte à leurs droits.
Obligation de transparence pour les applications d'IA
Il existe également une obligation de transparence. Les contenus générés ou modifiés artificiellement (audio, image, vidéo) doivent être clairement identifiés comme tels.
En outre, les systèmes d'IA à usage général et les modèles sur lesquels ils reposent doivent satisfaire à certaines exigences en matière de transparence. Cela inclut le respect du droit d'auteur de l'UE et la publication de résumés détaillés des contenus utilisés pour l'entraînement.
Les modèles plus performants, susceptibles de présenter des risques systémiques, seront désormais soumis à des exigences supplémentaires : il faudra ainsi procéder à des évaluations des modèles et évaluer et atténuer les risques systémiques. De plus, les incidents devront être signalés.
Sanctions à l'encontre des entreprises en cas d'infractions
Les infractions peuvent faire l'objet de sanctions (art. 99 de la loi Ai-Act). En fonction de la gravité de l'infraction, des amendes pouvant aller jusqu'à 35 millions d'euros ou jusqu'à 7 % du chiffre d'affaires annuel mondial de l'exercice précédent peuvent être infligées, le montant le plus élevé étant retenu.
Les États membres de l'UE doivent désormais transposer la loi sur l'IA dans leur législation nationale.
German 
English 
Italian 
French