Il regolamento sull'IA (regolamento sull'IA) adotta un approccio basato sul rischio per promuovere l'innovazione proteggendo al contempo i diritti fondamentali. Una componente centrale del regolamento AI è il divieto di alcune pratiche di AI considerate incompatibili con i valori fondamentali dell'Unione. La Commissione europea ha ora Linee guida che chiariscono l'applicazione e l'attuazione dei divieti di cui all'articolo 5 del regolamento AI. I punti più importanti in sintesi.
Contesto dei divieti di cui all'articolo 5 del regolamento AI
I divieti contenuti nel regolamento sull'IA sono un elemento centrale della regolamentazione dell'intelligenza artificiale nell'Unione europea e si basano sulla protezione dei diritti umani fondamentali e sulla salvaguardia dei principi democratici e dello Stato di diritto. Essi mirano a garantire che determinate tecnologie di IA non vengano utilizzate in modo da mettere a repentaglio i valori fondamentali dell'UE, quali la dignità umana, la non discriminazione e lo Stato di diritto, Trasparenza e Privacy mettere a rischio.
La crescente diffusione delle tecnologie di intelligenza artificiale comporta sfide significative, in particolare per quanto riguarda il controllo sui processi decisionali automatizzati, la potenziale manipolazione del comportamento umano e l’accesso incontrollato ai dati personali. Il divieto di applicazioni di IA particolarmente problematiche serve quindi a scongiurare i gravi rischi e pericoli che possono derivare da queste tecnologie.
Tali divieti mirano in particolare a impedire l’uso di applicazioni che, attraverso manipolazioni intenzionali o meccanismi ingannevoli, influenzano il comportamento di individui o gruppi senza che questi ultimi siano consapevoli dei processi sottostanti. Allo stesso modo, si intende arginare l’uso improprio dei dati biometrici ed escludere l’impiego di sistemi finalizzati al controllo sociale e alla discriminazione.
L'obiettivo di questi divieti è quindi quello di salvaguardare l'autonomia e la libertà di scelta dell'individuo, di garantire l'equità e di Trasparenza nei processi supportati dall'IA e la prevenzione delle disuguaglianze sociali ed economiche che potrebbero derivare da sistemi di IA non trasparenti o discriminatori.
Le pratiche di IA elencate nell’articolo 5 del regolamento sono quindi problematiche non solo a livello tecnico o economico, ma anche inaccettabili dal punto di vista etico e sociale. Una chiara regolamentazione di queste tecnologie mira a garantire che le applicazioni di IA siano sviluppate e utilizzate a beneficio della società, senza compromettere i diritti e le libertà fondamentali.
Il Regolamento AI distingue diverse categorie di applicazioni AI vietate:
Sistemi di intelligenza artificiale manipolativi e fuorvianti (art. 5, comma 1, lett. a del regolamento sull’IA)
Questa normativa vieta l'uso di sistemi di intelligenza artificiale che ricorrano a tecniche sovversive, manipolative o fuorvianti per influenzare il comportamento delle persone. Ciò comprende, tra l'altro:
- Messaggi subliminali: Sistemi di intelligenza artificiale che inseriscono stimoli visivi o uditivi al di fuori dell'ambito della percezione cosciente, al fine di influenzare comportamenti o decisioni inconsci. Queste tecniche possono essere attuate tramite lampi di immagini ultraveloci o segnali acustici impercettibili.
- Manipolazione psicologica o cognitivaSistemi di intelligenza artificiale che sfruttano in modo specifico le debolezze psicologiche o i pregiudizi cognitivi per convincere gli utenti a compiere determinate azioni o prendere determinate decisioni. Esempi sono la personalizzazione Pubblicitàbasati sulle debolezze individuali, o interfacce utente supportate dall'IA che distorcono i processi decisionali attraverso "modelli oscuri".
- Disinformazione e contenuti fuorvianti: sistemi di intelligenza artificiale che generano e diffondono in modo mirato informazioni false o distorte al fine di influenzare l’opinione pubblica o le decisioni individuali. Tra questi figurano i deepfake, gli articoli di cronaca sintetici o i bot basati sull’intelligenza artificiale che manipolano la formazione dell’opinione pubblica sulle piattaforme dei social media.
- Meccanismi di interazione compulsiva: Sistemi basati sull'intelligenza artificiale che inducono deliberatamente gli utenti a un coinvolgimento prolungato, sfruttando meccanismi di dipendenza quali i sistemi di ricompensa o le funzioni di “scorrimento infinito”. Ciò può risultare particolarmente problematico per i bambini e gli adolescenti, che sono più vulnerabili a tali meccanismi.
Le pratiche citate sono particolarmente problematiche, poiché minano la libertà decisionale e l’autonomia cognitiva delle persone coinvolte. Tali sistemi di intelligenza artificiale possono avere ripercussioni di ampia portata sulla democrazia, sull’economia e sulla società, in particolare se vengono utilizzati per influenzare in modo mirato il comportamento elettorale o le decisioni di acquisto. Pertanto, il loro utilizzo è soggetto a severe restrizioni legali ai sensi del regolamento sull’intelligenza artificiale.
Sfruttamento delle persone vulnerabili (art. 5, comma 1, lett. b del Regolamento sull'IA)
Il regolamento sull’IA vieta l’uso di sistemi di IA che sfruttino in modo mirato le vulnerabilità di singoli individui o gruppi a causa della loro età, di una disabilità o di una particolare situazione sociale o economica. Questa norma mira a tutelare le persone particolarmente vulnerabili da applicazioni di IA inique o manipolative che potrebbero minare la loro libertà decisionale e la loro autonomia.
Tra le pratiche vietate figurano:
- Influenza mirata sui bambini e sugli anzianiApplicazioni alimentate dall'intelligenza artificiale che si rivolgono specificamente a bambini o anziani per convincerli a mettere in atto determinati comportamenti o a prendere determinate decisioni d'acquisto, per esempio attraverso la manipolazione Pubblicità o informazioni deliberatamente fuorvianti.
- Sfruttamento finanziario di gruppi socialmente o economicamente svantaggiati: sistemi che manipolano in modo mirato i gruppi a basso reddito proponendo loro offerte economicamente svantaggiose, ad esempio proponiendo prestiti a tassi esorbitanti o condizioni assicurative inique attraverso processi decisionali basati su algoritmi.
- Abuso delle limitazioni cognitive: sistemi di intelligenza artificiale appositamente progettati per sfruttare limitazioni cognitive o una scarsa alfabetizzazione digitale al fine di ingannare le persone o imporre loro condizioni contrattuali inique.
- Sfruttamento delle dipendenze e delle malattie da dipendenzaPiattaforme supportate dall'intelligenza artificiale che hanno lo scopo di aiutare le persone a rischio di dipendenza attraverso Pubblicità o i meccanismi di interazione in una dipendenza, ad esempio attraverso l'ottimizzazione algoritmica dei sistemi di gioco d'azzardo o di microtransazione.
Lo scopo di questi divieti è di Integrità e sicurezza dei gruppi vulnerabili e garantire l'uso etico delle tecnologie di IA. Le applicazioni di IA devono essere progettate in modo da non trarre indebitamente vantaggio dalle circostanze particolari o dalle debolezze di singoli gruppi. L'attuazione di questi requisiti garantirà che il progresso tecnologico non avvenga a spese di coloro che sono particolarmente dipendenti dalla protezione e dall'equità.
Social scoring (art. 5 par. 1 lett. c GDPR)
Una novità fondamentale del regolamento sull’IA è il divieto totale dei sistemi di social scoring utilizzati da soggetti pubblici o privati. Per «social scoring» si intende la valutazione algoritmica degli individui sulla base del loro comportamento o delle loro caratteristiche personali, al fine di trarne conseguenze sociali o economiche. Questi sistemi sono particolarmente problematici, poiché incidono profondamente sulla Privacy possono interferire con i diritti dei cittadini e portare a discriminazioni ingiustificate.
Il divieto si applica in particolare se:
- si effettui una valutazione dei comportamenti sociali o delle caratteristiche personali di singoli individui o gruppi,
- si verificano conseguenze negative per gli individui in ambiti sociali non correlati, ad esempio l'esclusione dalle opportunità formative o dai servizi finanziari a causa di un punteggio sociale basso,
- dalle valutazioni derivino sanzioni o privilegi sproporzionati, come ad esempio l’ostacolo all’accesso al credito o all’alloggio sulla base di criteri non oggettivi e discriminatori.
Il “social scoring” è noto soprattutto negli Stati autoritari, dove viene utilizzato per il controllo e la sorveglianza dei cittadini. Il regolamento sull’intelligenza artificiale chiarisce che tali sistemi sono in contrasto con i valori fondamentali dell’Unione europea, in particolare il rispetto della dignità umana, la parità di trattamento e il Privacynon sono compatibili.
Particolare attenzione è rivolta all’applicazione di tale divieto da parte delle autorità nazionali di vigilanza sul mercato e delle istituzioni preposte alla protezione dei dati. Le imprese e le autorità che sviluppano o utilizzano sistemi di IA in Europa devono garantire che i propri sistemi non includano meccanismi di social scoring non autorizzati. Le violazioni di questo divieto possono essere punite con sanzioni pecuniarie elevate, al fine di garantire che nell’UE venga impedito l’uso improprio dell’IA a fini di controllo sociale.
Previsione dei reati basata sull’intelligenza artificiale (art. 5, comma 1, lett. d del Regolamento sull’IA)
Il divieto si estende ai sistemi di intelligenza artificiale che prevedono il rischio o la probabilità di un atto criminale sulla base di caratteristiche personali, del contesto sociale o di probabilità statistiche. Il regolamento sull’IA chiarisce che tali sistemi comportano rischi significativi per i diritti fondamentali, in particolare la presunzione di innocenza, la tutela della Privacy e il divieto di discriminazione. L'utilizzo di tali tecnologie può comportare uno svantaggio sistematico per determinati gruppi della popolazione, in particolare quando per il processo decisionale vengono utilizzate basi di dati distorte o insufficienti.
Aspetti problematici di tali sistemi di IA:
- Discriminazione e pregiudizi: I modelli di intelligenza artificiale si basano spesso su dati storici che riflettono pregiudizi esistenti o disuguaglianze strutturali. Ciò comporta il rischio che determinati gruppi vengano classificati come sospetti in misura sproporzionata.
- Mancante Trasparenza e tracciabilità: Il processo decisionale dei sistemi di intelligenza artificiale è spesso poco trasparente e di difficile comprensione, il che rende difficile un controllo efficace e una verifica giuridica.
- Presunzione di innocenza: Una valutazione automatizzata del rischio individuale di commettere un reato può portare alla stigmatizzazione o alla sorveglianza di alcune persone, in assenza di un effettivo fondamento penale.
Sono previste eccezioni per i sistemi di intelligenza artificiale che utilizzano dati oggettivi e verificabili a supporto delle valutazioni umane. È quindi possibile, ad esempio, utilizzare sistemi per identificare modelli criminali già noti nell’ambito dell’analisi dei dati, purché tali sistemi servano esclusivamente al processo decisionale delle autorità di polizia e non comportino una classificazione automatica delle persone come potenziali autori di reati.
Nel complesso, l’impiego di tali tecnologie nell’UE rimane una questione estremamente delicata e richiede il rigoroso rispetto dei principi dello Stato di diritto, nonché un controllo periodico da parte di autorità di vigilanza indipendenti.
Raccolta non mirata di dati biometrici (art. 5 par. 1 lett. e GDPR)
La raccolta indiscriminata di dati biometrici rappresenta una minaccia significativa per la Privacy e il Autodeterminazione informativa der betroffenen Personen dar. Die KI-Verordnung verbietet daher ausdrücklich das massenhafte, unkontrollierte Erfassen von Gesichtsbildern, Fingerabdrücken oder anderen biometrischen Merkmalen aus öffentlichen Quellen, insbesondere durch Techniken wie das sogenannte “Scraping”.
Tali pratiche servono spesso a creare banche dati biometriche su larga scala, che possono poi essere utilizzate per una vasta gamma di scopi, ad esempio per il riconoscimento facciale o la verifica dell’identità, senza il consenso esplicito delle persone interessate. Ciò solleva notevoli preoccupazioni in materia di protezione dei dati e di etica, in particolare perché:
- Mancante Consenso: Le persone interessate non hanno alcun controllo sulla raccolta e sul trattamento dei propri dati biometrici.
- I rischi della sorveglianza di massa: Tali banche dati possono essere utilizzate da soggetti pubblici e privati per attuare misure di sorveglianza di ampia portata.
- Rischio di abuso: I dati biometrici potrebbero essere utilizzati a fini di contrasto o per applicazioni commerciali all'insaputa dell'interessato o senza il suo consenso.
- Rischio di errore e discriminazione: È stato dimostrato che i sistemi di riconoscimento facciale basati sull'intelligenza artificiale presentano un tasso di errore più elevato nei confronti di determinati gruppi etnici e possono portare a sospetti ingiustificati o a discriminazioni.
Il regolamento vieta pertanto la creazione o l’ampliamento di tali banche dati mediante lo scraping indiscriminato da fonti accessibili al pubblico, quali i social network o le telecamere di sorveglianza. Le aziende e le organizzazioni che sviluppano o utilizzano tecnologie biometriche devono rispettare rigorose linee guida sulla protezione dei dati e requisiti di trasparenza per impedire l’uso improprio di dati personali sensibili.
La registrazione biometrica è consentita solo a condizioni rigorose, ad esempio se è stato dato un consenso esplicito e informato. Consenso degli interessati o se ciò è consentito dalla legge nel rispetto dei diritti fondamentali. Le autorità nazionali per la protezione dei dati sono tenute a perseguire con coerenza le violazioni di queste disposizioni e a imporre sanzioni severe.
Riconoscimento delle emozioni sul posto di lavoro e negli istituti scolastici (art. 5 comma 1 lett. f del Regolamento AI)
Il divieto riguarda l’uso di sistemi di intelligenza artificiale che analizzano le emozioni dei lavoratori o degli studenti, poiché ciò ha un impatto significativo sulla Privacy, sulla tutela della privacy e sull’autonomia individuale. Le tecnologie di riconoscimento delle emozioni utilizzano il riconoscimento facciale, l’analisi del linguaggio o altri segnali biometrici per determinare lo stato emotivo di una persona. L’UE considera queste pratiche particolarmente critiche, poiché possono avere effetti potenzialmente discriminatori e portare a misure di sorveglianza illegittime.
Perché il suo utilizzo è problematico?
- Intervento nel Privacy: I sistemi di riconoscimento delle emozioni raccolgono e analizzano dati biometrici senza che le persone interessate possano sempre fornire il proprio consenso consapevole.
- Interpretazione errata e mancanza di trasparenza: L'accuratezza di questi sistemi è controversa, poiché le emozioni possono essere interpretate in modo soggettivo e variare a seconda del contesto culturale. Ciò può portare a decisioni errate che, soprattutto in ambito lavorativo o formativo, possono avere gravi conseguenze.
- Discriminazione e stigmatizzazione: Le persone con determinate espressioni facciali o modalità di comunicazione potrebbero essere svantaggiate o classificate in modo errato, il che può portare a valutazioni inique o addirittura all’esclusione da opportunità formative o lavorative.
Il divieto prevede eccezioni limitate in particolare se il riconoscimento delle emozioni ha i seguenti scopi:
- Applicazioni mediche: Nella diagnostica o nella terapia, ad esempio per fornire sostegno a persone affette da malattie neurologiche o con difficoltà di comunicazione.
- Misure relative alla sicurezzaIn aree di applicazione ristrette, come il rilevamento di minacce acute o l'identificazione di persone in situazioni di emergenza (ad esempio, nei progetti di aviazione o di infrastrutture critiche).
Le organizzazioni e le imprese che violano il divieto possono essere soggette a pesanti sanzioni pecuniarie. Le autorità di regolamentazione sono tenute a monitorare l'uso di tali tecnologie e a garantire che esse non comportino una sorveglianza illecita o interferenze ingiustificate nella Privacy portare.
Suggerimento di lettura: Competenze in materia di IA e obblighi delle imprese ai sensi dell'articolo 4 del regolamento IA
Categorizzazione biometrica delle caratteristiche sensibili (art. 5 par. 1 lett. g GDPR)
La classificazione biometrica di caratteristiche sensibili da parte dei sistemi di intelligenza artificiale costituisce un ambito particolarmente delicato, poiché incide direttamente sui diritti fondamentali delle persone interessate. Il regolamento sull’IA vieta pertanto qualsiasi utilizzo di dati biometrici finalizzato a dedurre determinate caratteristiche personali legate all’identità e alle caratteristiche protette di una persona.
Tra le caratteristiche sensibili figurano in particolare:
- Appartenenza razziale o origine etnica: I sistemi di intelligenza artificiale non devono essere utilizzati per classificare le persone in base a criteri razziali o etnici, poiché ciò può portare a discriminazioni e a disparità di trattamento inammissibili.
- Convinzioni politiche: L'analisi dei dati biometrici finalizzata a determinare le opinioni politiche può portare alla persecuzione e alla repressione delle opinioni divergenti ed è pertanto severamente vietata.
- Convinzioni religiose o ideologiche: I sistemi di intelligenza artificiale che, sulla base di dati biometrici, traggono conclusioni sull’appartenenza religiosa o sulle convinzioni ideologiche di una persona sono vietati, al fine di tutelare la libertà di religione e di credo.
- Orientamento sessualeLa derivazione dell'orientamento sessuale dai dati biometrici rappresenta una grave violazione del diritto alla privacy. Privacy ed è in grado di portare a discriminazione e stigmatizzazione.
- Appartenenza sindacale: È vietato analizzare i dati biometrici al fine di determinare l'appartenenza a un sindacato, al fine di garantire la libertà di associazione e la tutela dei diritti dei lavoratori.
Perché la categorizzazione biometrica è problematica?
- Mancanza di validità scientifica: Molti metodi per ricavare caratteristiche sensibili dai dati biometrici si basano su ipotesi non dimostrate o pseudoscientifiche e sono quindi estremamente soggetti a errori.
- Rischi di discriminazione: Tali sistemi possono rafforzare i pregiudizi esistenti e le disuguaglianze sociali, discriminando o stigmatizzando determinati gruppi.
- Problemi etici e legali: L'utilizzo di queste tecnologie viola i principi fondamentali della protezione dei dati e non è compatibile con i diritti fondamentali dell'Unione europea.
Le imprese che violano questa normativa possono essere soggette a sanzioni pecuniarie elevate, al fine di garantire la tutela dei diritti fondamentali e delle libertà individuali.
Identificazione biometrica in tempo reale a distanza ai fini dell’applicazione della legge (art. 5, comma 1, lett. h del Regolamento sull’IA)
Das Verbot des Einsatzes von KI-gestützter Gesichtserkennung in öffentlichen Räumen durch Strafverfolgungsbehörden stellt eine der striktesten Regelungen der KI-Verordnung dar. Gesichtserkennungssysteme haben das Potenzial, umfassende Überwachungsmaßnahmen zu ermöglichen und stellen somit eine erhebliche Gefahr für die Autodeterminazione informativa der Bürger dar.
Aspetti problematici dell'identificazione biometrica a distanza in tempo reale:
- Sorveglianza di massa e Protezione dei dati: L'uso capillare dei sistemi di riconoscimento facciale potrebbe portare a una sorveglianza costante negli spazi pubblici, creando un clima di controllo e paura.
- Rischio di errore e discriminazione: È stato dimostrato che i sistemi di identificazione biometrica sono soggetti a errori e presentano tassi di errore più elevati, in particolare nei confronti di determinati gruppi etnici, il che può portare a sospetti ingiustificati o addirittura ad arresti.
- Potenziale di abuso: A causa dell’uso incontrollato di tali tecnologie, le autorità di polizia o altri soggetti statali potrebbero monitorare i movimenti delle persone senza una base giuridica sufficiente.
- Problemi di Stato di diritto: L'identificazione degli individui in tempo reale potrebbe limitare il diritto all'anonimato negli spazi pubblici e, in determinati casi, violare i principi di proporzionalità.
Nonostante il divieto generale, il regolamento sull’IA prevede poche Eccezioni in cui l'uso della tecnologia è consentito a condizioni rigorose:
- Ricerca mirata di persone scomparseSe è stata denunciata la scomparsa di una persona e la sua vita è in grave pericolo, il riconoscimento facciale può essere utilizzato in condizioni legali rigorose.
- Lotta al terrorismo: Nei casi in cui sussista una minaccia terroristica immediata, questa tecnologia può essere utilizzata per identificare le persone che potrebbero essere coinvolte in attentati.
- Pesante Reati penaliUn uso strettamente limitato del riconoscimento facciale può essere autorizzato in determinate situazioni, quando è necessario per risolvere reati gravi. Reati penali e non sono disponibili altre misure meno invasive.
Per prevenire abusi, tutte le applicazioni di identificazione biometrica a distanza devono essere autorizzate in tempo reale da autorità di vigilanza indipendenti e sottoposte a controlli periodici. L'uso non autorizzato o sproporzionato può essere punito con multe elevate o con provvedimenti giudiziari. Ciò garantisce che il progresso tecnologico non avvenga a scapito dei diritti fondamentali e che vengano rispettati i principi dello Stato di diritto.
Sanzioni in caso di violazione del regolamento sull'IA
I divieti sono applicati da diverse istituzioni a livello nazionale ed europeo. In particolare, le autorità nazionali di vigilanza del mercato sono responsabili del controllo della conformità ai regolamenti. Hanno il potere di indagare sulle violazioni, di adottare misure per prevenire pratiche di AI non autorizzate e di imporre sanzioni. Parallelamente, il Garante europeo della protezione dei dati svolge un ruolo fondamentale, in particolare quando si tratta di violazioni nell'ambito dell'IA. Elaborazione dei dati personali.
Le violazioni dei divieti previsti dall’AI Act possono comportare sanzioni finanziarie significative. Il regolamento prevede ammende fino a 35 milioni di euro o pari al 7 % del fatturato annuo globale di un’impresa, a seconda di quale dei due importi sia maggiore. Queste sanzioni hanno lo scopo di garantire che le imprese e le organizzazioni rispettino i requisiti di legge e non sviluppino né utilizzino sistemi di IA non consentiti o dannosi. Oltre alle sanzioni pecuniarie, possono essere imposte anche restrizioni operative o divieti di vendita per i sistemi di IA non conformi.
Inoltre, le imprese sono tenute a presentare relazioni periodiche sul rispetto delle norme. In casi gravi, in alcuni Stati membri possono essere previste anche conseguenze penali qualora vengano accertate violazioni, per negligenza o dolo, dei diritti fondamentali dovute all'utilizzo di tecnologie di intelligenza artificiale vietate.
Le prime linee guida sul regolamento sull’IA stabiliscono criteri rigorosi
Il Linee guida dell'UE sull'attuazione del regolamento sull'IA creano regole chiare per gestire l'intelligenza artificiale e stabiliscono standard rigorosi per la salvaguardia dei diritti fondamentali. Se da un lato viene rafforzata la protezione contro l'uso improprio dell'IA, dall'altro la sfida consiste nel garantire che l'innovazione non venga ostacolata. La futura giurisprudenza della Corte di giustizia europea contribuirà in modo significativo all'interpretazione dei regolamenti e farà chiarezza sulla misura in cui applicazioni specifiche di IA soddisfano i requisiti del regolamento IA.
Volete preparare la vostra azienda al regolamento sull'IA? Affrontiamo la sfida insieme! I nostri esperti saranno lieti di fornirvi la loro consulenza. Chiamateci o scriveteci:
Tel: +39 045 475 7198
E-mail: verona@2b-advice.com
German 
English 
Italian 
French