Il National Institute of Standards and Technology (NIST) è un’agenzia federale statunitense nota a livello mondiale per lo sviluppo di standard e linee guida in settori quali la tecnologia, la scienza e la sicurezza informatica. Il NIST svolge un ruolo di primo piano nell’introduzione sicura e responsabile delle nuove tecnologie in diversi settori industriali. Alla luce del rapido sviluppo dell’intelligenza artificiale (IA), il NIST ha ora lanciato un nuovo programma incentrato sugli aspetti relativi alla sicurezza informatica e alla protezione dei dati nell’ambito dell’IA, nonché sull’impiego dell’IA nella sicurezza informatica.
L'impatto dell'IA sulla protezione dei dati e sulla sicurezza informatica
Il punto di forza dell’IA risiede nella sua capacità di analizzare grandi quantità di dati provenienti da diverse fonti. Ciò la rende uno strumento prezioso per l’innovazione. Tuttavia, questa capacità comporta anche nuovi rischi per il Protezione dei dati – in particolare per quanto riguarda la reidentificazione e le fughe di dati durante lo sviluppo dei modelli. Infatti, le capacità predittive dell’IA possono rivelare informazioni sensibili sugli individui e favorire la sorveglianza e il controllo del comportamento –Tracciamento rafforzare.
Allo stesso tempo, però, l’IA può essere utilizzata anche per migliorare la protezione dei dati: ad esempio attraverso assistenti personali per la protezione dei dati che aiutano gli utenti a gestire le proprie impostazioni relative alla privacy su diverse piattaforme online.
Anche la sicurezza informatica viene rafforzata dall’IA, ma allo stesso tempo deve affrontare nuove sfide. Gli strumenti basati sull’IA possono migliorare il rilevamento delle minacce e la capacità di risposta, ma possono anche aumentare la complessità nella gestione dei falsi allarmi. Inoltre, l’IA potrebbe fungere da nuovo vettore di attacco nel campo della sicurezza informatica, rendendo necessaria la protezione dei sistemi di IA sia dalle minacce tradizionali che da quelle emergenti. Per le organizzazioni ciò significa che devono rivalutare le proprie pratiche di gestione dei dati e le proprie strategie di sicurezza informatica, adattandole ai rischi specifici legati all’IA.
Un approccio olistico alla gestione dei rischi legati all'intelligenza artificiale
Il NIST ha già sviluppato l'AI Risk Management Framework (AI RMF) per gestire i benefici e i rischi associati all'IA per gli individui, le organizzazioni e la società. Copre un ampio spettro di rischi, che vanno dalla sicurezza alla mancanza di sicurezza. Trasparenza e responsabilità.
Poiché l'intelligenza artificiale influisce sempre più sulla sicurezza informatica e sulla protezione dei dati a livello aziendale, il NIST sta ora intensificando i propri sforzi per garantire un approccio globale ai rischi legati all'intelligenza artificiale.
Tra le iniziative più importanti su cui si basa il nuovo programma figurano
- Pratiche sicure di sviluppo del software per l'IA generativa (NIST SP 218A)
- Apprendimento automatico avversario: una tassonomia e una terminologia degli attacchi e delle contromisure (NIST AI 100-2)
- Linee guida per la valutazione della privacy differenziale (NIST SP 800-226)
- Integrazione della sicurezza nell'IA nel Quadro di Sicurezza NICE
- Strumenti come Dioptra, una piattaforma di test per la valutazione degli algoritmi di apprendimento automatico, e il PETs Testbed, che analizza le tecnologie di protezione dei dati.
Focus del nuovo programma NIST
- Il programma appena avviato collaborerà con un’ampia gamma di parti interessate provenienti dal mondo dell’industria, del governo e della ricerca. L’obiettivo è garantire che gli sforzi volti a garantire la sicurezza dell’IA a livello nazionale e internazionale siano condotti in modo completo e coordinato. Il coordinamento con altri programmi del NIST e con le autorità statunitensi contribuirà a sviluppare un approccio coerente per affrontare le sfide legate all’IA nei settori della sicurezza informatica e della protezione dei dati.
I punti focali del programma sono
- Gestione dei rischi legati alla sicurezza informatica e alla protezione dei dati derivanti dall'uso dell'IA, compresa la protezione dei sistemi di IA, la riduzione al minimo delle fughe di dati e la protezione dell'infrastruttura per l'apprendimento automatico.
- Sviluppo di strategie per la difesa dagli attacchi basati sull'intelligenza artificiale.
- Supporto alle organizzazioni nell'utilizzo dell'intelligenza artificiale per migliorare la difesa informatica e la protezione dei dati.
Sfruttare i vantaggi dell'IA e gestire i rischi
Lo sviluppo dell'IA porta con sé sia opportunità entusiasmanti che rischi critici per la sicurezza informatica e la privacy dei dati. Con questo nuovo programma, il NIST intende garantire che le aziende possano cogliere i vantaggi dell'IA gestendo efficacemente i rischi associati. Partendo da una solida base di ricerca esistente, Linee guida e strumenti, e in collaborazione con le varie parti interessate, il NIST intende assumere un ruolo di primo piano nell'uso sicuro e responsabile dell'IA.
Poiché l'intelligenza artificiale continuerà a plasmare il mondo, affrontare le sfide ad essa correlate in materia di sicurezza informatica e protezione dei dati è di fondamentale importanza per garantirne il successo a lungo termine e i benefici per la società.
German 
English 
Italian 
French