Con la crescente diffusione dell’intelligenza artificiale (IA) nelle aziende, la questione dello sviluppo e dell’utilizzo dei sistemi di IA nel rispetto della protezione dei dati sta assumendo un’importanza sempre maggiore. La Conferenza sulla protezione dei dati (DSK) ha pubblicato nel giugno 2025 la "Guidance on recommended technical and organisational measures for the development and operation of AI systems". Questo documento concretizza i requisiti della GDPR per le elaborazioni legate all'IA e fornisce una guida pratica per produttori, sviluppatori e utenti per quanto riguarda i sistemi di IA.
Approccio basato sul ciclo di vita e ambito di applicazione dei sistemi di intelligenza artificiale
Il DSK organizza i requisiti dei sistemi di IA lungo il loro intero ciclo di vita:
- Fase di progettazione
- Fase di sviluppo
- Fase introduttiva
- Funzionamento e monitoraggio
Ogni fase viene svolta tenendo conto dei sette obiettivi di garanzia del Modello standard di protezione dei dati (SDM) valutato:
- Minimizzazione dei dati
- Disponibilità
- Riservatezza
- Integrità
- Intervenibilità
- Trasparenza
- Non collegato
Basi giuridiche e responsabilità relative ai sistemi di intelligenza artificiale
I sistemi di intelligenza artificiale sono completamente soggetti alla GDPR. I seguenti principi di base sono particolarmente rilevanti:
- Legalità (art. 6 GDPR)
- Stanziamento di fondi (Art. 5 comma 1 lettera b)) GDPR)
- Minimizzazione dei dati (Art. 5, comma 1, lettera c)). GDPR)
- Trasparenza e Obbligo di informazione (Art. 13, 14) GDPR)
- Diritti degli interessati (Art. 15-22 GDPR)
- Valutazione d'impatto sulla protezione dei dati (Art. 35 GDPR)
- Sicurezza del Elaborazione (Art. 32 GDPR)
Produttore e sviluppatore sono generalmente considerati Persone responsabili per le fasi di progettazione e sviluppo. Organizzazioni di utenti si assumono la responsabilità dell'implementazione e della gestione.
1a fase di progettazione
La fase di progettazione costituisce la base per uno sviluppo dei sistemi di intelligenza artificiale conforme alle norme sulla protezione dei dati. In questa fase iniziale vengono prese decisioni fondamentali relative agli obiettivi, all’architettura e al trattamento dei dati del sistema. L’obiettivo è quello di tenere adeguatamente conto dei requisiti in materia di protezione dei dati e di attuarli sin dall’inizio.
Un elemento centrale è la Trasparenza. Persone responsabili devono documentare in modo dettagliato le fonti dei dati di addestramento e garantirne la provenienza legittima. La creazione delle cosiddette „schede tecniche per i set di dati” (Datasheets for Datasets) si è affermata come una prassi consolidata. In queste schede tecniche vengono descritte in modo trasparente, tra l’altro, le categorie di dati, i metodi di raccolta, la finalità e la provenienza dei dati.
Come parte del Minimizzazione dei dati È necessario verificare quali categorie di dati siano effettivamente necessarie per la funzionalità prevista del sistema di intelligenza artificiale. Occorre scegliere algoritmi che utilizzino il minor numero possibile di dati. Occorre sempre valutare l’utilizzo di dati anonimizzati o sintetici. Grazie a studi pilota e analisi preliminari è possibile valutare in modo realistico l’effettivo fabbisogno di dati personali.
Dal punto di vista della non concatenazione, occorre evitare i rischi che potrebbero derivare dall’interconnessione di dati provenienti da fonti diverse. Particolarmente critico è l’uso di attributi proxy che consentono di dedurre indirettamente caratteristiche sensibili.
Per ottimizzare il Diritti degli interessati (ad esempio, informazioni, Correzione, Cancellazione), i processi organizzativi e le misure tecniche di intervento dovrebbero essere definiti già in fase di progettazione.
Inoltre, i requisiti relativi a Disponibilità, Integrità e Riservatezza devono essere presi in considerazione. Tra questi figurano la definizione di solidi sistemi di backup, misure volte a garantire l’integrità dei dati e dei sistemi, nonché precauzioni contro il data poisoning o gli attacchi tramite backdoor. Anche i meccanismi di controllo degli accessi e le strategie di crittografia dovrebbero essere specificati già in fase di progettazione.
2a fase di sviluppo
Nella fase di sviluppo di un sistema di intelligenza artificiale, i requisiti definiti nella fase di progettazione vengono tradotti in soluzioni tecniche concrete. In questa fase vengono implementati gli algoritmi di intelligenza artificiale, vengono preparati i dati di addestramento e vengono eseguiti l’addestramento vero e proprio e la validazione dei modelli di intelligenza artificiale.
Una preoccupazione centrale della guida all'orientamento DSK in questa fase è il Trasparenza. Persone responsabili È quindi necessario documentare in modo esaustivo l'intero processo di addestramento. Ciò comprende una descrizione dettagliata dei dati di addestramento, dei metodi di addestramento applicati e dei criteri di selezione degli algoritmi utilizzati. Anche tutte le decisioni relative all'addestramento che influenzano le successive prestazioni del modello e l'elaborazione dei dati devono essere registrate in modo tracciabile.
Nello spirito di Minimizzazione dei dati È consentito trattare solo i dati strettamente necessari allo scopo di addestramento definito. Non è ammessa una raccolta di dati eccessiva o speculativa. Soprattutto nel caso dei „sistemi di IA composti” strutturati in modo modulare, occorre assicurarsi che ogni componente riceva solo i dati a essa necessari.
L'obiettivo di garanzia della non concatenazione richiede che i modelli di IA vengano addestrati esclusivamente per lo scopo definito nella fase di progettazione. È necessario impedire attivamente l’acquisizione involontaria di ulteriori informazioni sensibili (ad esempio da variabili altamente correlate). A tal fine, occorre implementare adeguati meccanismi di controllo statistici e tecnici.
Per quanto riguarda la possibilità di intervento, è necessario garantire già in fase di sviluppo che le successive richieste di cancellazione o correzione siano tecnicamente realizzabili. È quindi opportuno prendere in considerazione sin dall’inizio procedure quali il „machine unlearning” o il riaddestramento modulare senza specifici set di dati.
Per quanto riguarda il Integrità i responsabili devono garantire che i dati di formazione, convalida e test siano corretti, completi e non manipolati. Misure come la convalida dei dati, il rilevamento delle distorsioni e la protezione contro l'avvelenamento dei dati e gli attacchi avversari (ad esempio, gli attacchi di evasione) sono assolutamente essenziali.
Il Riservatezza riveste un ruolo fondamentale: i dati di addestramento e i modelli devono essere protetti da accessi non autorizzati e da attacchi quali l’estrazione di modelli o gli attacchi di inferenza di appartenenza. Se necessario, i risultati intermedi devono essere resi anonimi o aggregati per ridurre al minimo il riferimento alle persone.
3. Fase introduttiva
La fase di implementazione descrive il passaggio di un sistema di intelligenza artificiale dall’ambiente di sviluppo all’utilizzo in produzione. In questa fase, l’attenzione è rivolta in particolare alle questioni relative alla distribuzione e alla configurazione del software nel rispetto della normativa sulla protezione dei dati.
Un obiettivo fondamentale è quello di garantire la trasparenza nei confronti degli utenti e delle persone interessate. I responsabili devono fornire informazioni sul funzionamento del sistema di IA, sulle fonti di dati utilizzate, sull’architettura del sistema e sui fattori che influenzano il processo decisionale. Anche le opzioni di configurazione e le loro implicazioni in materia di protezione dei dati devono essere documentate in modo comprensibile. Ciò include anche la divulgazione degli elementi forniti del sistema di IA (ad es. parametri del modello, versioni del sistema, file di configurazione).
Per quanto riguarda il Minimizzazione dei dati È necessario garantire che vengano forniti e trattati solo i dati personali necessari per la rispettiva finalità. Particolarmente rilevante è in questo contesto la distinzione tra modelli parametrici (ad es. reti neurali, che non contengono più dati grezzi) e modelli non parametrici (ad es. algoritmi dei k vicini più prossimi, che continuano a necessitare di dati di addestramento). Queste differenze influenzano quali dati possono essere trasmessi nell’ambito della distribuzione del software.
Sotto l'aspetto di Riservatezza È necessario adottare misure di protezione adeguate in fase di messa a disposizione e distribuzione del sistema di intelligenza artificiale. Tra queste figurano, in particolare, tecniche di crittografia, limitazioni di accesso e il controllo della cerchia dei destinatari della distribuzione del software. Qualora i dati personali utilizzati per l’addestramento facciano parte integrante del sistema fornito, anche questi devono essere soggetti a misure di protezione specifiche.
Si noti inoltre che la consegna del sistema può essere rilevante ai sensi della legge sulla protezione dei dati, anche se in questa fase non vengono adottate misure attive di protezione dei dati. Elaborazione dati personali, in quanto costituisce la base per il successivo trattamento dei dati.
Nel complesso, la fase di implementazione getta le basi per un ambiente operativo del sistema di intelligenza artificiale conforme alle norme sulla protezione dei dati. Richiede un’attenta pianificazione, Documentazione e la validazione tecnica dei componenti software forniti.
Suggerimento di lettura: Interesse legittimo nello sviluppo di sistemi di IA: Guida della CNIL
4. funzionamento e monitoraggio
La fase „Funzionamento e monitoraggio” descrive l’utilizzo attivo di un sistema di intelligenza artificiale, nonché il monitoraggio continuo del suo funzionamento e della conformità alle norme sulla protezione dei dati. Ha inizio con l’autorizzazione all’uso produttivo del sistema di intelligenza artificiale e comprende tutte le attività operative e di manutenzione in corso.
Una delle principali preoccupazioni della guida DSK in questa fase è il Trasparenza. Persone responsabili Devono quindi documentare in modo tracciabile tutte le operazioni di trattamento, gli aggiornamenti di sistema e gli adeguamenti dei modelli. Ciò comprende in particolare la registrazione dei dati utilizzati, delle versioni dei modelli di IA e delle modifiche apportate al sistema. Anche la cronologia delle decisioni del sistema di IA dovrebbe, per quanto possibile, essere archiviata in modo tracciabile, in particolare nel caso di decisioni automatizzate con effetti giuridici.
Per quanto riguarda il Minimizzazione dei dati deve verificare costantemente se i dati personali raccolti ed elaborati in azienda sono ancora necessari per gli scopi specificati. In caso contrario, i dati devono essere cancellati o resi anonimi. La minimizzazione dei dati è necessaria anche per il feedback degli utenti al fine di migliorare il sistema di intelligenza artificiale. Elaborazione garantire.
La possibilità di intervenire deve essere garantita in ogni momento. Ciò comprende la possibilità di, Diritti degli interessati come informazioni, Correzione o Cancellazione efficacemente in ogni momento. Soluzioni tecniche come sistemi di filtraggio o controlli di input e output aiutano a prevenire o a correggere gli output indesiderati del modello. Obblighi di cancellazione dei dati contenuti nel modello Dati personali (Machine Unlearning) devono essere implementate, purché ciò sia tecnicamente possibile.
Per ottimizzare il Integrità del sistema di IA, le aziende devono assicurarsi che non venga compromesso da attacchi avversari (ad esempio, manipolazione degli input) o da modifiche non autorizzate del modello. Test, convalide e valutazioni del rischio regolari, ad esempio attraverso il red teaming, sono componenti importanti di un funzionamento sicuro.
Il Riservatezza è di importanza centrale nelle operazioni quotidiane. Controlli di accesso, Crittografia e la registrazione hanno lo scopo di impedire a persone non autorizzate di accedere ai parametri sensibili del modello o di Dati personali ottenuto. Soprattutto quando si utilizzano sistemi di Retrieval-Augmented Generation (RAG), è necessario monitorare attentamente chi è autorizzato ad accedere a quali fonti di dati.
Aspetti aggiuntivi relativi ai sistemi di intelligenza artificiale
Oltre ai requisiti relativi alle diverse fasi indicati nelle linee guida della DSK, vi sono altri aspetti importanti che rivestono un ruolo significativo nello sviluppo e nella gestione dei sistemi di IA nel rispetto della normativa sulla protezione dei dati.
Gestire i sistemi di intelligenza artificiale ad alto rischio
Ai cosiddetti sistemi di IA ad alto rischio, ai sensi del regolamento sull’IA (Regolamento IA), si applicano requisiti più rigorosi. Questi riguardano in particolare la completa Documentazione dei dati, degli algoritmi e delle decisioni modellistiche utilizzati, nonché un sistema di gestione della qualità vincolante. Le imprese devono garantire che i sistemi di IA abbiano superato le procedure di valutazione della conformità richieste. Analisi periodiche dei rischi e l’attuazione di una Valutazione d'impatto sulla protezione dei dati (DSFA) sono obbligatori.
Considerazione dei modelli di fornitori terzi
Quando si utilizzano modelli di IA sviluppati esternamente o preaddestrati (ad esempio, LLM open source o servizi basati su API), è necessario effettuare ulteriori controlli in materia di sicurezza e protezione dei dati. Tra questi figurano in particolare:
- Una verifica della provenienza e della qualità dei dati di addestramento
- Il controllo di eventuali attacchi tramite backdoor o data poisoning
- La salvaguardia contrattuale degli obblighi di protezione dei dati da parte dell'offerente
- Valutare i rischi degli attacchi di estrazione di modelli o di inferenza di appartenenza
Le aziende devono assicurarsi che la tracciabilità e la trasparenza della Trasparenza di questi modelli di terze parti. Inoltre, l'utilizzo di tali modelli è regolarmente soggetto a GDPR-verificare la conformità.
Progettazione del contratto
La DSK raccomanda di tenere conto dei requisiti specifici in materia di protezione dei dati già in fase di stesura dei contratti con fornitori e prestatori di servizi. Tra gli elementi contrattuali fondamentali dovrebbero figurare, tra l’altro:
- Chiara definizione delle responsabilità (rapporto tra titolare del trattamento e responsabile del trattamento)
- Requisiti relativi alle misure tecniche e organizzative (TOM)
- Audit- e i diritti di controllo del committente
- Norme relative alla restituzione dei dati, -cancellazione e portabilità
- Accordi relativi agli obblighi di segnalazione in caso di violazioni della protezione dei dati
Proprio quando si utilizzano offerte di “AI-as-a-Service”, le disposizioni contrattuali sono essenziali per garantire un livello adeguato di protezione dei dati anche nel caso di processi di trattamento esternalizzati. Gestione dei sistemi di IA ad alto rischio Per i sistemi di IA ad alto rischio ai sensi del regolamento sull’IA si applicano ulteriori requisiti in materia di documentazione e gestione della qualità.
Conclusioni e raccomandazioni per la pratica
La guida all'orientamento di DSK offre per la prima volta una Guida sistematica, pratica e giuridicamente valida per l'intero ciclo di vita dell'IA. Ciò comporta requisiti elevati in termini di Documentazione, progettazione tecnica e processi organizzativi. Le aziende devono agire tempestivamente Protezione dei dati in tutte le fasi di sviluppo e utilizzo dell'IA.
L’attuazione dei requisiti definiti nelle linee guida della DSK richiede alle aziende un approccio strategico e strutturato. Le seguenti raccomandazioni hanno lo scopo di aiutare le organizzazioni a integrare nei propri processi le disposizioni in materia di protezione dei dati in modo pratico ed efficiente:
- Creazione di un piano d'azione per la protezione dei dati dell'IA: Già prima dell’avvio del progetto occorre elaborare un piano dettagliato che definisca le verifiche, le misure e le responsabilità necessarie in materia di protezione dei dati. Tale piano dovrebbe tenere conto di tutte le fasi del ciclo di vita di un sistema di intelligenza artificiale.
- Effettuazione tempestiva e ripetuta di valutazioni d’impatto sulla protezione dei dati (VIPD): Per tutti i progetti di IA ad alto rischio è necessario effettuare una DSFA. A tal fine si raccomanda un approccio iterativo: le prime valutazioni vengono effettuate già nella fase di progettazione, mentre ulteriori aggiornamenti seguono nelle fasi di sviluppo e di esercizio.
- Istituzione di un organo di governo dell'IA: Questo team interdisciplinare composto da responsabili della protezione dei dati, specialisti della sicurezza informatica, sviluppatori di intelligenza artificiale e Conformità-Il responsabile gestisce l'assistenza in materia di protezione dei dati nei progetti di IA, valuta i rischi e coordina le misure.
- Corsi di formazione e Consapevolezza-Misure per i team di sviluppatori e di prodotto: È fondamentale sensibilizzare tutti i soggetti coinvolti nel progetto di intelligenza artificiale in merito ai requisiti in materia di protezione dei dati. Ciò comprende corsi di formazione su argomenti quali Minimizzazione dei datirequisiti di trasparenza, valutazioni del rischio e diritti degli interessati.
- Implementazione di un processo di monitoraggio e audit: Le aziende dovrebbero verificare costantemente che i propri sistemi di intelligenza artificiale siano conformi ai requisiti in materia di protezione dei dati. Ciò comporta l’esecuzione di audit periodici sui processi di trattamento dei dati, la verifica dell’efficacia delle misure tecniche di protezione e la valutazione continua dei rischi.
- Documentazione e documentazione: Tutte le decisioni, le misure e i controlli relativi alla protezione dei dati devono essere documentati in modo comprensibile al fine di soddisfare i requisiti di responsabilità di cui all'art. 5 (2) del GDPR. GDPR per rendere loro giustizia.
- Definizione di un piano di risposta agli incidenti per le violazioni della protezione dei dati relative all'IA: Poiché i sistemi di intelligenza artificiale comportano rischi specifici, è opportuno predisporre un piano di emergenza che definisca procedure di reazione e segnalazione rapide, nonché contromisure adeguate, in caso di violazioni della protezione dei dati.
Prossimi passi con Ailance - Gestione integrata del rischio
Desiderate attuare in modo efficiente e sostenibile i requisiti della guida DSK nella vostra azienda? Il nostro software Ailance – Gestione integrata del rischio vi aiuta a individuare, valutare e gestire i rischi relativi alla protezione dei dati in tutte le fasi del ciclo di vita dell'intelligenza artificiale.
Con Ailance potete:
Effettuare e documentare sistematicamente le valutazioni d'impatto sulla protezione dei dati (DSFA)
Misure tecniche e organizzative (TOM) Mappatura e tracciamento specifici per l'AI
Gestire efficacemente i rischi dei fornitori e dei fornitori terzi
Audit- e Conformità- Redigere la documentazione per le verifiche interne ed esterne
Diritti degli interessati e i processi di risposta agli incidenti in modo efficiente
Prendete un appuntamento con noi, ne vale la pena!
German 
English 
Italian 
French