Le National Institute of Standards and Technology (NIST) est une agence fédérale américaine connue dans le monde entier pour le développement de normes et de directives dans des domaines tels que la technologie, la science et la cybersécurité. Le NIST joue un rôle de premier plan dans l'introduction sûre et responsable de nouvelles technologies dans différentes industries. Face au développement rapide de l'intelligence artificielle (IA), le NIST a maintenant lancé un nouveau programme qui se concentre sur les aspects de cybersécurité et de confidentialité de l'IA, ainsi que sur l'utilisation de l'IA dans la cybersécurité.
L'impact de l'IA sur la protection des données et la cybersécurité
La force de l'IA réside dans sa capacité à analyser de grandes quantités de données provenant de différentes sources. Cela en fait un outil précieux pour l'innovation. Toutefois, cette capacité comporte également de nouveaux risques pour la protection des données - notamment en ce qui concerne la ré-identification et les fuites de données pendant le développement de modèles. En effet, les capacités prédictives de l'IA peuvent révéler des informations sensibles sur les individus et renforcer le suivi de la surveillance et du comportement.
Parallèlement, l'IA peut également être utilisée pour améliorer la protection des données : Par exemple, grâce à des assistants personnels de protection des données qui aident les utilisateurs à gérer leurs paramètres de confidentialité sur différentes plateformes en ligne.
L'IA renforce également la cybersécurité tout en la confrontant à de nouveaux défis. Les outils basés sur l'IA peuvent améliorer la détection des menaces et la capacité de réaction, mais aussi augmenter la complexité de la gestion des faux positifs. En outre, l'IA pourrait servir de nouveau vecteur d'attaque dans le domaine de la cybersécurité, ce qui rend nécessaire la protection des systèmes d'IA contre les menaces traditionnelles et nouvelles. Pour les organisations, cela signifie qu'elles doivent réévaluer leurs pratiques de gestion des données et leurs stratégies de cybersécurité et les adapter aux risques spécifiques de l'IA.
Approche holistique de la gestion des risques de l'IA
Le NIST a déjà développé le AI Risk Management Framework (AI RMF) pour gérer les avantages et les risques associés à l'IA pour les individus, les organisations et la société. Il couvre un large éventail de risques, allant de la sécurité au manque de transparence et de responsabilité.
L'IA ayant un impact croissant sur la cybersécurité et la protection des données au niveau de l'entreprise, le NIST intensifie désormais ses efforts pour garantir une approche globale des risques liés à l'IA.
Les principales initiatives sur lesquelles s'appuie le nouveau programme sont les suivantes
- Pratiques de développement logiciel sécurisées pour l'IA générative (NIST SP 218A)
- Adversarial Machine Learning : Une taxonomie et une terminologie des attaques et des contre-mesures (NIST AI 100-2)
- Lignes directrices pour l'évaluation de la confidentialité différentielle (NIST SP 800-226)
- Intégration de la sécurité de l'IA dans le cadre de sécurité NICE
- des outils tels que Dioptra, une plateforme de test pour l'évaluation des algorithmes d'apprentissage automatique, et le PETs Testbed, qui étudie les technologies respectueuses de la vie privée.
Points forts du nouveau programme NIST
- Le programme nouvellement lancé travaillera avec un large éventail de parties prenantes de l'industrie, du gouvernement et du monde universitaire. L'objectif est de s'assurer que les efforts visant à sécuriser l'IA sont complets et coordonnés aux niveaux national et international. La coordination avec d'autres programmes du NIST et les autorités américaines devrait contribuer à développer une approche cohérente pour relever les défis de la cybersécurité et de la protection des données liés à l'IA.
Les points forts du programme sont
- gérer les risques en matière de cybersécurité et de protection de la vie privée liés à l'utilisation de l'IA, notamment en sécurisant les systèmes d'IA, en minimisant les fuites de données et en sécurisant l'infrastructure d'apprentissage automatique
- Développement de stratégies de défense contre les attaques basées sur l'IA.
- Aider les organisations à utiliser l'IA pour améliorer la cyberdéfense et la protection des données.
Tirer profit des avantages de l'IA et gérer les risques
Le développement de l'IA apporte à la fois des opportunités passionnantes et des risques critiques pour la cybersécurité et la protection des données. Avec ce nouveau programme, le NIST veut s'assurer que les entreprises puissent profiter des avantages de l'IA tout en gérant efficacement les risques qui y sont associés. S'appuyant sur une base solide de recherches, de lignes directrices et d'outils existants, et en collaboration avec diverses parties prenantes, le NIST entend jouer un rôle de premier plan dans l'utilisation sûre et responsable de l'IA.
Alors que l'IA continuera de façonner le monde, il est essentiel de relever les défis qu'elle pose en matière de cybersécurité et de protection des données afin d'assurer son succès à long terme et ses avantages pour la société.