Marcus Belke
CEO de 2B Advice GmbH, moteur de l'innovation dans le domaine de la vie privée conformité et de la gestion des risques, et a dirigé le développement d'Ailance, la nouvelle génération de conformité plateforme.
Les agents d'IA sont en passe de passer du stade des „ projets pilotes passionnants “ à un nouveau niveau opérationnel au sein des entreprises : ils automatisent des chaînes de tâches, accèdent à des données et exécutent des actions, le tout de manière partiellement autonome. C'est voulu, mais cela comporte également des risques pour la sécurité. Le dernier rapport „ Cyber Pulse : An AI Security Report “ de Microsoft met en garde contre l’utilisation incontrôlée d’agents IA « fantômes ». Quelles mesures concrètes permettront de garantir un niveau de sécurité nettement plus élevé ?.
Chiffres clés tirés du rapport „ Cyber Pulse : An AI Security Report “ de Microsoft
Deux conclusions ressortent du rapport :
Les agents évoluent plus rapidement que de nombreuses entreprises ne sont capables de les percevoir et de les contrôler.
Selon les données de Microsoft, plus de 80 % des entreprises du classement Fortune 500 utilisent déjà des „ agents actifs “, souvent créés à l'aide d'outils « low-code » ou « no-code ». De ce fait, la création et l'utilisation d'agents ne sont plus l'apanage des équipes techniques.
Les contrôles sont à la traîne.
Microsoft cite des données selon lesquelles seulement 47 % des organisations mettent en œuvre des contrôles de sécurité spécifiques pour l'IA générique, tandis que 29 % des collaborateurs utilisent déjà des agents d'IA non autorisés pour accomplir des tâches professionnelles. Il s’agit là de la dynamique classique du „ shadow IT “, mais avec une portée nettement plus large, car les agents d’IA automatisent les chaînes de tâches et les accès aux données.
Le nouveau risque : les „ agents doubles “
Microsoft décrit un scénario souvent sous-estimé par de nombreuses entreprises : les agents d’IA peuvent devenir des „ agents doubles “ lorsqu’ils se voient attribuer des autorisations trop étendues ou lorsqu’ils sont induits en erreur par des „ données d’entrée non fiables “ (par exemple, des contenus, des sources de données ou des instructions manipulés dans les workflows). Le danger réside dans le fait qu’un agent ne se contente pas de „ répondre “, mais qu’il agit. Il peut lire des fichiers, créer des tickets, envoyer des e-mails, fusionner des données ou piloter des systèmes. Ainsi, des décisions erronées ou des manipulations peuvent rapidement se transformer en véritables incidents.
Les déclencheurs typiques sont l'over-permissioning (l'agent a plus d'autorisations que nécessaire), l'absence de Affectation des fonds (le champ d'application n'est pas clairement défini) ou des sources de contexte non contrôlées (l'agent utilise des informations provenant de sources qui peuvent être influencées par des attaquants). Le risque ici n'est pas seulement celui des „mauvaises réponses“, mais aussi celui de la fuite de données, du contournement de la politique ou des actions involontaires dans les systèmes de production.
Microsoft souligne qu'il ne s'agit pas d'un scénario théorique : Le rapport renvoie entre autres à des campagnes observées autour du „Memory Poisoning“, dans lesquelles les pirates influencent la „mémoire“ persistante d'un assistant/agent de manière à orienter son comportement ultérieur ou ses réponses dans une direction souhaitée. C'est justement parce que de tels effets sont silencieux (il ne s'agit pas de logiciels malveillants classiques et il n'y a souvent pas d'alerte immédiate) que le risque est grand qu'ils restent longtemps non détectés - jusqu'à ce qu'un Audit, Il est important que le sujet soit mis sur la table lorsqu'un incident ou un flux de données „inexplicable“ survient.
Conseil de lecture : Réussir la gouvernance de l'IA en 5 étapes
Le modèle « Zero Trust » désormais également disponible pour les agents IA
Pour Microsoft, il ne peut donc y avoir qu'une seule conséquence : Traitez les agents comme des employés ou des comptes de service. Comme les agents prennent des décisions et effectuent des actions, ils doivent respecter les mêmes règles de base que toute autre entité informatique, notamment le principe du « Zero Trust ».
Confiance zéro signifie principalement trois choses dans ce contexte :
- Moindre privilège : Un agent ne dispose que des droits dont il a besoin pour remplir sa mission clairement définie, et non „ au cas où “. Cela inclut également des limitations temporelles, des rôles et une séparation claire par catégories de données. Toute autorisation supplémentaire peut aggraver les dégâts si l'agent est détourné de sa mission ou compromis.
- Vérification explicite : Les accès et les actions ne doivent pas se faire „ implicitement “. L’identité, le contexte et le risque sont vérifiés à chaque action pertinente : de quel agent s’agit-il ? Qui en est le propriétaire ? Dans quel processus se trouve-t-il ? À quelles données accède-t-il et cela est-il autorisé à cette fin ? Cela inclut des processus d’autorisation traçables, l’application des politiques et Audit- des journaux qui, en cas de doute, peuvent expliquer pourquoi une action a été effectuée.
- Assumez la compromission : Concevez les agents comme si une manipulation ou un mauvais comportement pouvait se produire un jour ou l'autre. Cela signifie : des guardrails clairs, une surveillance des anomalies, des paramètres par défaut sûrs, des voies de réaction rapides et un playbook des incidents qui couvre explicitement les scénarios des agents.
Concrètement, cela signifie qu'un agent n'est pas un simple „ outil “ que l'on se contente d'activer. C'est une identité active qu'il faut encadrer, surveiller et dont le fonctionnement doit pouvoir être contrôlé.
L'observabilité, fondement des agents d'IA
Microsoft mise également sur l'observabilité comme condition préalable fondamentale : on ne peut pas protéger ce qu'on ne voit pas („ you can’t protect what you can’t see “). Cela implique une Niveau de contrôle (Control Plane), qui rend les agents IA transparents au quotidien. Ce niveau jette les bases nécessaires à la mise en œuvre de la gouvernance et de la sécurité. Il montre que :
- Quels sont les agents existants.
- À qui ils appartiennent.
- avec quels systèmes et quelles données ils interagissent.
- Comment ils se comportent.
Important : l'observabilité sert aussi à contrôle continu. Cela permet aux organisations de détecter rapidement lorsqu'un agent accède soudainement à de nouvelles catégories de données, lorsqu'il déclenche des actions inhabituelles ou lorsque des dépendances évoluent en arrière-plan.
Selon Microsoft, l'observabilité couvre les cinq domaines suivants :
- Registre : Tous les agents d'IA utilisés au sein de l'entreprise sont inscrits dans un registre central. Cet inventaire permet d'éviter une prolifération incontrôlée des agents et garantit la traçabilité. Les agents non autorisés peuvent être restreints ou mis en quarantaine.
- Contrôle d'accès : Chaque agent est géré selon les mêmes contrôles d'accès basés sur l'identité et les politiques que ceux qui s'appliquent aux utilisateurs humains et aux applications. Des autorisations appliquées de manière cohérente, avec des privilèges minimaux, garantissent que les agents ne peuvent accéder qu’aux données, systèmes et flux de travail nécessaires à l’accomplissement de leur mission.
- Visualisation : Les tableaux de bord en temps réel et la télémétrie fournissent des informations sur les interactions des agents avec les personnes, les données et les systèmes. Les responsables peuvent voir où les agents interviennent, comprendre les interdépendances et surveiller les comportements et leurs répercussions, ce qui permet de détecter plus rapidement les abus, les écarts ou les risques émergents.
- Interopérabilité : Les agents fonctionnent selon un modèle de gouvernance uniforme. Cette interopérabilité leur permet de collaborer avec des personnes et d'autres agents au-delà des flux de travail, tout en étant gérés dans le cadre des mêmes contrôles d'entreprise.
- La sécurité : Des mesures de protection intégrées protègent les agents contre les abus internes et les menaces externes. Les alertes de sécurité, l'application des politiques et les outils intégrés aident les entreprises à détecter rapidement les agents compromis ou mal configurés et à réagir sans délai.
Mettre en œuvre l'observabilité avec Ailance Gouvernance de l'IA
Si vous souhaitez utiliser des agents IA de manière productive, il est judicieux de définir dès maintenant un point de départ pour la gouvernance. Gouvernance de l'IA Ailance couvre exactement les éléments que Microsoft décrit comme étant le standard minimum :
- Inventaire des agents & Ownership : Transparence sur les agents IA existants, à qui ils appartiennent et à quoi ils servent.
- Contrôle d'accès et moindre privilège : Maintenir les droits au minimum, définir proprement les rôles et les approuver de manière compréhensible.
- Traçabilité : Visibilité sur les flux de données, les actions, les dépendances et les anomalies.
- Conformité- Contrôles relatifs à l'IA : Classification des données, règles de protection, journalisation et application des politiques pour les flux de travail des agents.
- Une utilisation sanctionnée plutôt que des agents de l'ombre : Une voie officielle et sûre qui facilite l'adoption et réduit le recours à des solutions parallèles.
- Réglementation et reporting de gestion : Documentation et des indicateurs clés de performance (KPI), afin que ce sujet puisse également être piloté au niveau de la direction.
Demandez un Évaluation des normes minimales de gouvernance en matière d'IA ou réservez une Démonstration d'Ailance. Au cours d'un bref rendez-vous, nous vous montrerons les domaines dans lesquels vous êtes déjà bien positionné et les mesures qui vous permettront d'optimiser votre capacité à évoluer en toute sécurité.
Source : „ Cyber Pulse : un rapport sur la sécurité basé sur l'IA “ de Microsoft
Marcus Belke est CEO de 2B Advice ainsi que juriste et expert en IT pour Protection des données et numérique Conformité. Il écrit régulièrement sur la gouvernance de l'IA, RGPD-Conformité et la gestion des risques. Pour en savoir plus sur lui, rendez-vous sur son Page du profil de l'auteur.
German 
English 
Italian 
French