Il piano d'azione della CNIL francese per la regolamentazione dei sistemi di IA

Introduzione

Alla luce dei recenti sviluppi nel campo dell’intelligenza artificiale (IA) e, in particolare, delle IA generative come ChatGPT, la Commissione nazionale per l'informatica e le libertà (CNIL) ha pubblicato un piano d'azione volto a promuovere l'utilizzo di sistemi di intelligenza artificiale che garantiscano la Privacy degli individui. Le IA generative rappresentano un settore emergente dell’intelligenza artificiale che consente la generazione di testi, immagini e altri contenuti sulla base delle istruzioni fornite dall’utente. In questo articolo esamineremo i dettagli di questo piano d’azione e la sua importanza per la tutela della Privacy discutere.

Il ruolo della CNIL

Negli ultimi anni la CNIL ha già svolto un ampio lavoro volto a prevenire e affrontare le sfide legate all’IA. Nel 2023 la CNIL proseguirà le proprie iniziative volte alla regolamentazione delle telecamere avanzate ed estenderà il proprio lavoro alle IA generative, ai modelli linguistici di grandi dimensioni e alle relative applicazioni derivate, come i chatbot. Il piano d’azione della CNIL si concentra su quattro aree principali:

Comprensione del funzionamento dei sistemi di intelligenza artificiale e del loro impatto sulle persone.
Promozione e regolamentazione dello sviluppo di un'intelligenza artificiale rispettosa della privacy.
Sostegno e collaborazione con attori innovativi nell'ecosistema dell'intelligenza artificiale in Francia e in Europa.
Verifica e controllo dei sistemi di intelligenza artificiale a tutela delle persone.
Queste misure servono anche a prepararsi all'attuazione del regolamento europeo sull'intelligenza artificiale attualmente in discussione.

La protezione dei dati personali come sfida chiave

Con il progressivo sviluppo dell’intelligenza artificiale emergono sempre più sfide nel campo della protezione dei dati e delle libertà individuali. Già nel 2017, nella sua relazione sulle sfide etiche poste dagli algoritmi e dall’intelligenza artificiale, la CNIL ha preso posizione sulle questioni sollevate da questa tecnologia.

Negli ultimi mesi, le IA generative hanno compiuto grandi progressi, soprattutto nel campo della generazione di testi e delle conversazioni. Grazie all’impiego di grandi modelli linguistici come GPT-3, BLOOM o Megatron NLG e di chatbot derivati come ChatGPT o Bard, questi sistemi sono in grado di generare testi molto simili a quelli creati dall’uomo. Anche nel campo della generazione di immagini e voce si registrano sviluppi significativi. Sebbene questi modelli e queste tecnologie trovino già applicazione in diversi settori, il loro funzionamento, le loro potenzialità e i loro limiti, nonché le sfide giuridiche, etiche e tecniche ad essi correlate, sono ancora oggetto di intense discussioni.

La CNIL pubblica il proprio piano d'azione per la regolamentazione dell'intelligenza artificiale, al fine di sottolineare l'importanza della protezione dei dati personali nello sviluppo e nell'utilizzo di questi strumenti. In particolare, l'attenzione è rivolta alle IA generative.

Cosa sono le IA generative?

Le IA generative sono sistemi in grado di creare testi, immagini e altri contenuti (musica, video, voce, ecc.) sulla base delle istruzioni fornite dagli utenti umani. Questi sistemi possono generare nuovi contenuti a partire dai dati utilizzati per il loro addestramento. Grazie all’ampio set di dati di addestramento, sono in grado di ottenere risultati già molto vicini alle produzioni umane. È tuttavia importante che gli utenti specifichino chiaramente le loro richieste per ottenere i risultati desiderati. Si sta quindi sviluppando una competenza specifica relativa alla formulazione delle richieste degli utenti (prompt engineering).

Il piano d'azione della CNIL in quattro fasi

Negli ultimi anni la CNIL ha svolto un ampio lavoro di regolamentazione dell’IA, prendendo in considerazione diversi tipi di sistemi di IA e i relativi casi d’uso. Il suo piano d’azione si concentra su quattro obiettivi principali:

• Funzionalità ed effetti dell'IA sulla Privacy e i diritti degli individui
• Creazione di un quadro giuridico per l'utilizzo dei sistemi di intelligenza artificiale che garantisca il Protezione dei dati garantito
• Sostegno e collaborazione con gli innovatori nel campo dell'intelligenza artificiale in Francia e in Europa
• Verifica e controllo dei sistemi di intelligenza artificiale al fine di garantire i diritti e la tutela delle persone

“Ciò che mi piace del piano d’azione è che si voglia innanzitutto sviluppare una comprensione del funzionamento dei sistemi di IA e anche valutare se e quali effetti abbiano sulle singole persone”, commenta Marcus Belke, CEO del 2B Advice Group, un gruppo aziendale che da 20 anni offre soluzioni per la protezione dei dati. “Ciò che manca, tuttavia, è un punto all’ordine del giorno dedicato alle opportunità che l’IA offre in materia di protezione dei dati”, prosegue Marcus Belke.

La CNIL rafforzerà le proprie misure di controllo e verificherà in particolare l'utilizzo delle IA generative, al fine di garantire che le aziende che sviluppano, addestrano o utilizzano sistemi di IA abbiano adottato misure adeguate per la protezione dei dati personali. Il suo obiettivo è quello di stabilire norme chiare e protettive per il trattamento dei dati personali nei sistemi di IA.

Grazie a queste misure di ampio respiro, la CNIL intende contribuire allo sviluppo di sistemi di IA rispettosi della protezione dei dati, garantendo al contempo la Privacy e tutelare i diritti dei cittadini europei.

Con il suo piano d’azione, la CNIL spera di aiutare i responsabili della protezione dei dati (DPO) ad affrontare le sfide legate all’intelligenza artificiale (IA). Fornendo linee guida e misure chiare per garantire la protezione dei dati nei sistemi di IA, i responsabili della protezione dei dati all’interno di aziende e organizzazioni potranno essere meglio preparati ad affrontare le implicazioni delle tecnologie di IA. Il piano d’azione della CNIL offre una base per la creazione di un quadro favorevole alla protezione dei dati per l’utilizzo dell’IA e aiuta i responsabili della protezione dei dati ad attuare misure efficaci di protezione dei dati e a tutelare i diritti e le libertà degli interessati. Il lavoro della CNIL rappresenta quindi uno strumento prezioso per i responsabili della protezione dei dati al fine di affrontare le sfide in materia di protezione dei dati legate all’IA e garantire la tutela dei dati personali.