Avec l'entrée en vigueur du règlement européen relatif à intelligence artificielle (Règlement sur l'IA) À compter du 1er août 2024, les entreprises seront progressivement confrontées à de nouvelles exigences légales. Dès février 2025, les premières dispositions contraignantes entreront en vigueur, notamment en ce qui concerne les applications interdites de l'IA. Les entreprises sont en outre invitées à se pencher suffisamment tôt sur les implications de cette réglementation et à prendre les mesures nécessaires Conformité-prendre des mesures.
Systèmes d'IA interdits en vertu du règlement sur l'IA
À partir de février 2025, l'utilisation de certains systèmes d'IA sera expressément interdite dans l'UE. Cette réglementation s'appuie sur les dispositions du règlement sur l'IA, qui vise à minimiser les risques potentiels pour les droits fondamentaux, la sécurité et la démocratie. Il s'agit notamment d'exclure les systèmes susceptibles de manipuler, de discriminer ou de surveiller massivement les personnes. Cette réglementation concerne en particulier les applications considérées comme présentant un risque élevé. Parmi celles-ci figurent notamment :
- Technologies d'IA manipulatrices :
Les systèmes qui influencent inconsciemment le comportement ou la prise de décision des personnes, en particulier lorsque cela peut causer un préjudice. - Systèmes de scoring social :
Évaluations, fondées sur l'IA, de personnes physiques en fonction de leur comportement, de leur statut social ou de leurs caractéristiques personnelles, susceptibles d'avoir un effet discriminatoire. - Surveillance de masse par reconnaissance biométrique :
L'utilisation de la reconnaissance faciale en temps réel dans les lieux publics est interdite, à quelques exceptions près, notamment dans le cadre de la lutte contre le terrorisme ou la grande criminalité. - Reconnaissance des émotions sur le lieu de travail ou dans les établissements d'enseignement :
Les systèmes d'IA qui analysent l'état émotionnel des salariés ou des élèves ne doivent plus être utilisés. - La police prédictive sur une base purement statistique :
Les systèmes qui reposent exclusivement sur des calculs de probabilité pour prédire un comportement futur sont interdits.
Les entreprises qui utilisent déjà de tels systèmes ou qui participent au développement de ces technologies doivent veiller, d'ici février 2025, à se conformer aux nouvelles réglementations et, le cas échéant, à mettre fin aux utilisations interdites.
Loi sur l'IA : mesures à prendre par les entreprises
Outre le respect des interdictions qui entreront en vigueur à partir de février 2025, les entreprises devraient anticiper les exigences à venir du règlement sur l'IA. Un exemple de réussite Conformité- La stratégie consiste à mettre en place un cadre interne de gouvernance de l'IA qui définit clairement les responsabilités, réalise des analyses de risques régulières et garantit que tous les systèmes d'IA utilisés sont conformes aux nouvelles exigences légales. Cela comprend notamment
- Un état des lieux de toutes les applications d'IA utilisées au sein de l'entreprise, afin de détecter à un stade précoce d'éventuelles infractions.
- Déterminer si les systèmes d'IA utilisés ou développés doivent être classés comme des systèmes d'IA à haut risque. Ces systèmes seront soumis, lors des phases ultérieures de mise en œuvre de la loi sur l'IA, à des obligations étendues en matière de documentation et Conformité-Exigences.
- Adaptation des directives internes, notamment dans les domaines suivants Protection des données et l'éthique, afin de faire face aux défis futurs Transparence- et être prêt à répondre aux exigences en matière de sécurité.
- Mise en place d'un système interne Conformité- des structures chargées de veiller au respect des exigences réglementaires.
La mise en place de ConformitéLa mise en place de structures est un élément essentiel de la stratégie d'entreprise visant à garantir le respect de toutes les exigences légales de la loi sur l'IA. Cela implique notamment la mise en œuvre d'une approche structurée et systématique pour la surveillance et le contrôle des applications d'IA. Les entreprises devraient mettre en place une Conformité-service ou responsable Désigner les personnes chargées de contrôler et d'évaluer régulièrement les systèmes d'IA utilisés.
Cela inclut également la mise en place de mécanismes d'analyse des risques permettant de détecter et d'éviter à un stade précoce les infractions potentielles. Les entreprises devraient également mettre en place des canaux de signalement internes pour les préoccupations d'ordre éthique ou réglementaire, afin que les collaboratrices et collaborateurs puissent signaler d'éventuels problèmes de manière anonyme ou directement à un Conformité- signaler le problème.
Formations à l'IA obligatoires pour les employés
Un autre aspect important des directives internes réside dans la mise en place de responsabilités et de processus clairs pour l'utilisation des applications d'IA. Cela peut notamment passer par la nomination d'un responsable de l'IA, chargé de veiller à ce que l'utilisation de l'IA soit conforme aux exigences réglementaires.
Par ailleurs, les entreprises devraient organiser régulièrement des formations internes à l'intention de leurs collaborateurs, car la formation aux compétences en matière d'IA sera également obligatoire à partir de février 2025.
Plus précisément, l’article 4 du règlement sur l’IA stipule : “ Les fournisseurs et les opérateurs de systèmes d’IA prennent des mesures pour s’assurer, dans la mesure du possible, que leur personnel et les autres personnes chargées, pour leur compte, de l’exploitation et de l’utilisation des systèmes d’IA, disposent d’un niveau suffisant de compétences en matière d’IA, en tenant compte de leurs connaissances techniques, de leur expérience, de leur formation et de leur perfectionnement, ainsi que du contexte dans lequel les systèmes d’IA sont destinés à être utilisés et des personnes ou groupes de personnes auxquels ces systèmes sont destinés. ”
Il convient donc de garantir la traçabilité et l'explicabilité des décisions prises par l'IA. Pour que Personnes concernées comprendre comment et pourquoi une décision particulière a été prise
Conseil de lecture : IA générative – Le CEPD publie des lignes directrices sur son utilisation
Mesures concrètes pour la mise en œuvre du règlement sur l'IA
Le règlement sur l'IA constitue un cadre réglementaire important pour l'utilisation de l'intelligence artificielle dans l'Union européenne. Les petites et moyennes entreprises (PME), en particulier, pourraient se trouver confrontées à des difficultés, car elles ne disposent souvent pas des mêmes ressources pour Conformité-disposent de mesures similaires à celles des grands groupes. Pour rester compétitives, les PME devraient donc se tourner dès le début vers des solutions rentables telles que les solutions standardisées Conformité- des outils ou le recours à des consultants externes.
Les entreprises ont tout intérêt à se préparer suffisamment tôt aux obligations à venir afin de minimiser les risques et de se conformer en temps voulu aux exigences légales. Une préparation précoce ConformitéUne telle stratégie permet non seulement de minimiser les risques juridiques, mais aussi de garantir des avantages concurrentiels et de renforcer la confiance des clients et des partenaires. Voici quelques mesures concrètes :.
- Formation du personnel : formations régulières sur les nouvelles exigences réglementaires et les directives éthiques.
- Audits et contrôles internes : Mise en œuvre de mécanismes de contrôle pour assurer Conformité.
- Transparence et Documentation: Justification des systèmes d'IA utilisés, de leurs processus décisionnels et des mesures de sécurité mises en place.
- Collaboration avec des experts externes : implication de conseillers juridiques et d'experts en protection des données pour minimiser les risques réglementaires.
- Mise à jour régulière de la stratégie en matière d'IA : adaptation à l'évolution des exigences réglementaires et des avancées technologiques.
Vous souhaitez mettre votre entreprise en conformité avec le règlement sur l'IA ? Nous allons nous y attaquer ensemble ! Nos experts se feront un plaisir de vous conseiller. Appelez-nous ou écrivez-nous :
Tél: +33 1 856 59880
Courrier électronique : paris@2b-advice.com
Source : Règlement n° 2024/1689 établissant des règles harmonisées en matière d'intelligence artificielle
German 
English 
Italian 
French