Il National Institute of Standards and Technology (NIST) è un'agenzia federale statunitense nota in tutto il mondo per lo sviluppo di standard e linee guida in settori quali la tecnologia, la scienza e la sicurezza informatica. Il NIST svolge un ruolo di primo piano nell'introduzione di nuove tecnologie in modo sicuro e responsabile in vari settori. Alla luce del rapido sviluppo dell'intelligenza artificiale (IA), il NIST ha lanciato un nuovo programma incentrato sugli aspetti di cybersicurezza e privacy dell'IA, nonché sull'uso dell'IA nella cybersicurezza.
L'impatto dell'IA sulla protezione dei dati e sulla sicurezza informatica
La forza dell'IA risiede nella sua capacità di analizzare grandi volumi di dati provenienti da fonti diverse. Ciò la rende uno strumento prezioso per l'innovazione. Tuttavia, questa capacità comporta anche nuovi rischi per la protezione dei dati, in particolare per quanto riguarda la reidentificazione e le fughe di dati durante lo sviluppo dei modelli. Le capacità predittive dell'IA possono infatti rivelare informazioni sensibili sulle persone e aumentare la sorveglianza e il tracciamento dei comportamenti.
Allo stesso tempo, l'intelligenza artificiale può essere utilizzata per migliorare la protezione dei dati: Ad esempio, attraverso assistenti alla protezione dei dati personali che supportano gli utenti nella gestione delle impostazioni di protezione dei dati su varie piattaforme online.
Anche la sicurezza informatica viene rafforzata e sottoposta a nuove sfide dall'IA. Gli strumenti basati sull'IA possono migliorare le capacità di rilevamento e risposta alle minacce, ma aumentano anche la complessità di gestire i falsi positivi. Inoltre, l'IA potrebbe fungere da nuovo vettore di attacco nella cybersecurity, rendendo necessaria la protezione dei sistemi di IA contro le minacce tradizionali e quelle nuove. Per le organizzazioni, ciò significa che devono rivalutare le proprie pratiche di gestione dei dati e le strategie di cybersecurity e adattarle ai rischi specifici dell'IA.
Approccio olistico alla gestione del rischio dell'IA
Il NIST ha già sviluppato l'AI Risk Management Framework (AI RMF) per gestire i benefici e i rischi associati all'IA per gli individui, le organizzazioni e la società. Copre un ampio spettro di rischi che vanno dalla sicurezza alla mancanza di trasparenza e responsabilità.
Poiché l'IA ha un impatto crescente sulla sicurezza informatica e sulla privacy dei dati a livello aziendale, il NIST sta intensificando gli sforzi per garantire un approccio globale ai rischi legati all'IA.
Le iniziative più importanti su cui si basa il nuovo programma comprendono
- Pratiche di sviluppo software sicuro per l'IA generativa (NIST SP 218A)
- Adversarial Machine Learning: una tassonomia e terminologia degli attacchi e delle contromisure (NIST AI 100-2)
- Linee guida per la valutazione della privacy differenziale (NIST SP 800-226)
- Integrazione della sicurezza nell'IA nel Quadro di Sicurezza NICE
- Strumenti come Dioptra, una piattaforma di test per la valutazione degli algoritmi di apprendimento automatico, e il PETs Testbed, che analizza le tecnologie di protezione dei dati.
Focus del nuovo programma NIST
- Il programma appena lanciato collaborerà con un'ampia gamma di soggetti interessati dell'industria, del governo e del mondo accademico. L'obiettivo è garantire che gli sforzi per proteggere l'IA siano completi e coordinati a livello nazionale e internazionale. Il coordinamento con altri programmi del NIST e con le agenzie statunitensi contribuirà a sviluppare un approccio coerente per affrontare le sfide della cybersicurezza e della privacy associate all'IA.
I punti focali del programma sono
- Affrontare i rischi di cybersecurity e protezione dei dati posti dall'uso dell'IA, compresa la messa in sicurezza dei sistemi di IA, la riduzione al minimo della fuga di dati e la messa in sicurezza dell'infrastruttura di apprendimento automatico.
- Sviluppo di strategie di difesa contro gli attacchi supportati dall'intelligenza artificiale.
- Supporto alle organizzazioni nell'uso dell'IA per migliorare la difesa informatica e la protezione dei dati.
Sfruttare i vantaggi dell'IA e gestire i rischi
Lo sviluppo dell'IA porta con sé sia opportunità entusiasmanti che rischi critici per la sicurezza informatica e la privacy dei dati. Con questo nuovo programma, il NIST intende garantire che le aziende possano cogliere i vantaggi dell'IA gestendo efficacemente i rischi associati. Partendo da una solida base di ricerca, linee guida e strumenti esistenti e in collaborazione con diverse parti interessate, il NIST intende fornire una leadership nell'uso sicuro e responsabile dell'IA.
Mentre l'IA continua a plasmare il mondo, il superamento delle sfide associate alla cybersecurity e alla protezione dei dati è fondamentale per garantirne il successo a lungo termine e i benefici per la società.
Italian 
German 
English 
French