Le National Institute of Standards and Technology (NIST) est une agence fédérale américaine reconnue dans le monde entier pour l'élaboration de normes et de lignes directrices dans des domaines tels que la technologie, la science et la cybersécurité. Le NIST joue un rôle de premier plan dans l'adoption sûre et responsable des nouvelles technologies dans divers secteurs industriels. Face au développement fulgurant de l'intelligence artificielle (IA), le NIST vient de lancer un nouveau programme axé sur les aspects de l'IA liés à la cybersécurité et à la protection des données, ainsi que sur l'utilisation de l'IA dans le domaine de la cybersécurité.
L'impact de l'IA sur la protection des données et la cybersécurité
La force de l'IA réside dans sa capacité à analyser de grandes quantités de données provenant de différentes sources. Cela en fait un outil précieux pour l'innovation. Cette capacité comporte toutefois également de nouveaux risques pour le Protection des données – notamment en ce qui concerne la réidentification et les fuites de données lors du développement des modèles. En effet, les capacités prédictives de l'IA peuvent révéler des informations sensibles sur des individus et permettre une surveillance ainsi qu'une analyse comportementale –Suivi renforcer.
Dans le même temps, l'IA peut également être utilisée pour améliorer la protection des données : par exemple grâce à des assistants personnalisés qui aident les utilisateurs à gérer leurs paramètres de confidentialité sur différentes plateformes en ligne.
La cybersécurité est elle aussi à la fois renforcée par l'IA et confrontée à de nouveaux défis. Les outils basés sur l'IA peuvent améliorer la détection des menaces et la capacité de réaction, mais ils peuvent également accroître la complexité de la gestion des fausses alertes. De plus, l’IA pourrait servir de nouveau vecteur d’attaque dans le domaine de la cybersécurité, ce qui rend nécessaire la protection des systèmes d’IA contre les menaces traditionnelles et émergentes. Pour les organisations, cela signifie qu’elles doivent réévaluer leurs pratiques de gestion des données et leurs stratégies de cybersécurité, et les adapter aux risques spécifiques liés à l’IA.
Une approche globale de la gestion des risques liés à l'IA
Le NIST a déjà développé le AI Risk Management Framework (AI RMF) pour gérer les avantages et les risques associés à l'IA pour les individus, les organisations et la société. Il couvre un large éventail de risques, allant de la sécurité à l'absence d'un système de gestion des risques. Transparence et la responsabilité.
L'IA ayant un impact croissant sur la cybersécurité et la protection des données au niveau des entreprises, le NIST intensifie désormais ses efforts afin de garantir une approche globale des risques liés à l'IA.
Parmi les principales initiatives sur lesquelles s'appuie le nouveau programme, on peut citer
- Pratiques sécurisées de développement logiciel pour l'IA générative (NIST SP 218A)
- Apprentissage automatique adversaire : taxonomie et terminologie des attaques et des contre-mesures (NIST AI 100-2)
- Lignes directrices pour l'évaluation de la confidentialité différentielle (NIST SP 800-226)
- Intégration de la sécurité de l'IA dans le cadre de sécurité NICE
- des outils tels que Dioptra, une plateforme de test pour l'évaluation des algorithmes d'apprentissage automatique, et le PETs Testbed, qui étudie les technologies respectueuses de la vie privée.
Points forts du nouveau programme NIST
- Ce nouveau programme collaborera avec un large éventail de parties prenantes issues de l'industrie, des pouvoirs publics et du monde scientifique. Il vise ainsi à garantir que les efforts déployés pour assurer la sécurité de l'IA se déroulent de manière globale et coordonnée, tant au niveau national qu'international. La coordination avec d’autres programmes du NIST et les autorités américaines doit contribuer à l’élaboration d’une approche cohérente pour relever les défis liés à l’IA dans les domaines de la cybersécurité et de la protection des données.
Les points forts du programme sont
- Gérer les risques liés à la cybersécurité et à la protection des données découlant de l'utilisation de l'IA, notamment en sécurisant les systèmes d'IA, en réduisant au minimum les fuites de données et en sécurisant l'infrastructure dédiée à l'apprentissage automatique.
- Élaboration de stratégies visant à se prémunir contre les attaques basées sur l'IA.
- Aider les organisations à utiliser l'IA pour améliorer la cybersécurité et la protection des données.
Tirer parti des avantages de l'IA et gérer ses risques
Le développement de l'IA apporte à la fois des opportunités passionnantes et des risques critiques pour la cybersécurité et la protection des données. Avec ce nouveau programme, le NIST veut s'assurer que les entreprises puissent profiter des avantages de l'IA tout en gérant efficacement les risques qui y sont associés. S'appuyant sur une base solide de recherches existantes, Lignes directrices et d'outils, et en collaboration avec différentes parties prenantes, le NIST entend jouer un rôle de premier plan dans l'utilisation sûre et responsable de l'IA.
L'IA continuant à façonner le monde, il est essentiel de relever les défis qui y sont liés en matière de cybersécurité et de protection des données afin de garantir son succès à long terme et son utilité pour la société.
German 
English 
Italian 
French