Marcus Belke
CEO de 2B Advice GmbH, moteur de l'innovation dans le domaine de la vie privée conformité et de la gestion des risques, et a dirigé le développement d'Ailance, la nouvelle génération de conformité plateforme.
Les agents IA sont en train de passer de „projets pilotes passionnants“ à un nouveau niveau opérationnel dans les entreprises : Ils automatisent des chaînes de tâches, accèdent aux données et exécutent des actions, le tout de manière partiellement autonome. C'est voulu, mais cela comporte aussi des risques de sécurité. L'actuel „Cyber Pulse : An AI Security Report“ de Microsoft met en garde contre l'utilisation incontrôlée d'agents IA fantômes. Quelles mesures concrètes devraient garantir une sécurité nettement plus élevée.
Chiffres clés du „Cyber Pulse : An AI Security Report“ de Microsoft
Deux conclusions ressortent du rapport :
Les agents évoluent plus rapidement que de nombreuses entreprises ne peuvent les voir et les contrôler.
Selon les données de Microsoft, plus de 80% des entreprises du Fortune 500 utilisent déjà des „agents actifs“, souvent créés avec des outils Low-Code/No-Code. De ce fait, la création et l'utilisation d'agents ne se font plus uniquement au sein d'équipes techniques.
Les contrôles sont à la traîne.
Microsoft fait référence à des données selon lesquelles seules 47 % des organisations mettent en œuvre des contrôles de sécurité spécifiques pour GenAI, tandis que 29 % des collaborateurs utilisent déjà des agents d'IA non autorisés pour des tâches professionnelles. Il s'agit là de la dynamique classique du „Shadow IT“, mais avec une portée nettement plus grande, puisque les agents IA automatisent les chaînes de tâches et l'accès aux données.
Le nouveau risque : „Double Agents“
Microsoft décrit un modèle qui est sous-estimé par de nombreuses entreprises : Les agents IA peuvent devenir des agents doubles („double agents“) s'ils reçoivent des autorisations trop étendues ou s'ils sont mal orientés par des „untrusted input“ (par exemple des contenus manipulés, des sources de données ou des instructions dans des workflows). Le danger est qu'un agent ne se contente pas de „répondre“, il agit. Il peut lire des fichiers, créer des tickets, déclencher des e-mails, fusionner des données ou piloter des systèmes. De ce fait, des décisions erronées ou des manipulations peuvent rapidement se transformer en véritables incidents.
Les déclencheurs typiques sont l'over-permissioning (l'agent a plus d'autorisations que nécessaire), l'absence de Affectation des fonds (le champ d'application n'est pas clairement défini) ou des sources de contexte non contrôlées (l'agent utilise des informations provenant de sources qui peuvent être influencées par des attaquants). Le risque ici n'est pas seulement celui des „mauvaises réponses“, mais aussi celui de la fuite de données, du contournement de la politique ou des actions involontaires dans les systèmes de production.
Microsoft souligne qu'il ne s'agit pas d'un scénario théorique : Le rapport renvoie entre autres à des campagnes observées autour du „Memory Poisoning“, dans lesquelles les pirates influencent la „mémoire“ persistante d'un assistant/agent de manière à orienter son comportement ultérieur ou ses réponses dans une direction souhaitée. C'est justement parce que de tels effets sont silencieux (il ne s'agit pas de logiciels malveillants classiques et il n'y a souvent pas d'alerte immédiate) que le risque est grand qu'ils restent longtemps non détectés - jusqu'à ce qu'un Audit, Il est important que le sujet soit mis sur la table lorsqu'un incident ou un flux de données „inexplicable“ survient.
Conseil de lecture : Réussir la gouvernance de l'IA en 5 étapes
Zero Trust maintenant aussi pour les agents IA
Pour Microsoft, il ne peut donc y avoir qu'une seule conséquence : Traitez les agents comme des employés ou des comptes de service. Comme les agents prennent des décisions et exécutent des actions, ils ont besoin des mêmes règles de base que n'importe quelle autre identité dans l'informatique, notamment le respect de la confiance zéro.
Confiance zéro signifie principalement trois choses dans ce contexte :
- Moindre privilège : Un agent ne reçoit que les droits dont il a besoin pour son objectif clairement défini et non „au cas où“. Cela comprend également des limites de temps, des rôles et une séparation nette par classe de données. Tout droit supplémentaire peut augmenter les dommages si l'agent est mal orienté ou compromis.
- Vérification explicite : Les accès et les actions ne doivent pas être „implicites“. L'identité, le contexte et le risque sont vérifiés pour chaque action pertinente : De quel agent s'agit-il ? Qui est le propriétaire ? Dans quel processus se trouve-t-il ? Quelles sont les données auxquelles il accède et est-ce autorisé à cette fin ? Cela inclut des voies d'autorisation compréhensibles, l'application de la politique et des journaux d'audit qui peuvent expliquer, en cas de doute, pourquoi une action a été exécutée.
- Assumez la compromission : Concevez les agents comme si une manipulation ou un mauvais comportement pouvait se produire un jour ou l'autre. Cela signifie : des guardrails clairs, une surveillance des anomalies, des paramètres par défaut sûrs, des voies de réaction rapides et un playbook des incidents qui couvre explicitement les scénarios des agents.
En pratique, cela signifie qu'un agent n'est pas un „outil“ qu'il suffit de débloquer. C'est une identité agissante qu'il faut limiter, surveiller et exploiter de manière auditable.
L'observabilité comme fondement des agents IA
Microsoft mise en outre sur l'observabilité comme condition de base : on ne peut pas protéger ce que l'on ne peut pas voir („you can't protect what you can't see“). Ainsi, une Niveau de contrôle (Control Plane), qui rend les agents IA transparents au quotidien. Ce niveau crée la base pour pouvoir imposer la gouvernance et la sécurité. Elle montre :
- Quels sont les agents existants.
- À qui ils appartiennent.
- avec quels systèmes et quelles données ils interagissent.
- Comment ils se comportent.
Important : l'observabilité sert aussi à contrôle continu. Les organisations peuvent ainsi détecter à temps si un agent accède soudainement à de nouvelles classes de données, s'il déclenche des actions inhabituelles ou si des dépendances changent en arrière-plan...
Selon Microsoft, l'observabilité comprend les cinq domaines suivants :
- Registre : Tous les agents IA utilisés dans l'entreprise sont inscrits dans un registre central. Cet inventaire aide à empêcher la prolifération incontrôlée d'agents et permet de rendre des comptes. Les agents non autorisés peuvent être limités ou mis en quarantaine.
- Contrôle d'accès : Chaque agent est géré avec les mêmes contrôles d'accès basés sur l'identité et les politiques que ceux appliqués aux utilisateurs et applications humains. Des autorisations appliquées de manière cohérente avec un minimum de privilèges garantissent que les agents ne peuvent accéder qu'aux données, systèmes et flux de travail nécessaires à la réalisation de leur objectif.
- Visualisation : Les tableaux de bord et la télémétrie en temps réel offrent un aperçu de l'interaction des agents avec les personnes, les données et les systèmes. Les cadres peuvent voir où les agents opèrent, comprendre les interdépendances et surveiller le comportement et l'impact, ce qui permet d'identifier plus rapidement les abus, les déviations ou les risques émergents.
- Interopérabilité : Les agents travaillent sous un modèle de gouvernance unique. Cette interopérabilité permet aux agents de collaborer avec des personnes et d'autres agents à travers des flux de travail tout en étant gérés au sein des mêmes contrôles d'entreprise.
- La sécurité : Les mesures de protection intégrées protègent les agents contre les abus internes et les menaces externes. Des signaux de sécurité, l'application de politiques et des outils intégrés aident les entreprises à identifier rapidement les agents compromis ou mal alignés et à réagir rapidement.
Mettre en œuvre l'observabilité avec Ailance Gouvernance de l'IA
Si vous souhaitez utiliser des agents d'IA de manière productive, il vaut la peine de définir dès maintenant un point de départ pour la gouvernance. Gouvernance de l'IA Ailance couvre exactement les éléments que Microsoft décrit comme étant le standard minimum :
- Inventaire des agents & Ownership : Transparence sur les agents IA existants, à qui ils appartiennent et à quoi ils servent.
- Contrôle d'accès et moindre privilège : Maintenir les droits au minimum, définir proprement les rôles et les approuver de manière compréhensible.
- Traçabilité : Visibilité sur les flux de données, les actions, les dépendances et les anomalies.
- Contrôles de conformité pour l'IA : Classification des données, règles de protection, journalisation et application des politiques pour les workflows des agents.
- Une utilisation sanctionnée plutôt que des agents de l'ombre : Une voie libérée et sécurisée qui permet l'adoption et réduit les solutions d'ombre.
- Réglementation et reporting de gestion : Documentation et des indicateurs clés de performance (KPI), afin que le sujet soit également gérable au niveau des cadres.
Demandez un Contrôle des normes minimales de gouvernance de l'IA ou réservez une Démonstration d'ailance. Lors d'un bref rendez-vous, nous vous montrerons où vous êtes déjà bien positionné et quelles sont les mesures qui vous permettront d'obtenir le plus grand levier pour une mise à l'échelle sûre.
Marcus Belke est CEO de 2B Advice ainsi que juriste et expert en IT pour Protection des données et numérique Conformité. Il écrit régulièrement sur la gouvernance de l'IA, la conformité au RGPD et la gestion des risques. Pour en savoir plus sur lui, consultez son Page du profil de l'auteur.
German 
English 
Italian 
French