Nuove mappe dei modelli in Ailance KI-Governance: cosa succede quando un modello di IA cambia?
Un modello di IA viene aggiornato. L'applicazione continua a funzionare e le autorizzazioni precedenti rimangono documentate. Ma la valutazione dei rischi originale e le decisioni prese sono ancora valide? Con le nuove mappe dei modelli in Ailance AI Governance aiutiamo le aziende a individuare tali modifiche e a valutarne l'impatto sulle applicazioni di IA esistenti. Le schede dei modelli vengono gestite e aggiornate centralmente da 2B Advice. Se una voce nell’inventario dell’IA è interessata da tali modifiche, Ailance provvede a ricalcolare i rischi e a informare i responsabili competenti.
Quando un cambio di modello modifica le valutazioni esistenti
Un'azienda utilizza un assistente basato sull'intelligenza artificiale per sintetizzare le richieste dei clienti in arrivo. Il caso d'uso è stato esaminato, i rischi sono stati valutati e l'utilizzo è stato autorizzato a determinate condizioni.
Ora il fornitore del modello mette a disposizione una nuova versione. Questa dovrebbe riconoscere meglio le relazioni più complesse e fornire risposte più precise.
Il reparto IT si occuperà dell'aggiornamento. Per gli utenti, per il momento non cambierà quasi nulla. La procedura guidata avrà lo stesso aspetto e svolgerà la stessa funzione.
Da un confronto con i risultati dei test precedenti emerge tuttavia che il nuovo modello attribuisce un peso diverso alle singole affermazioni. Fornisce formulazioni più convincenti, ma talvolta presenta determinate informazioni in un contesto diverso.
Il caso esemplificativo ipotetico evidenzia un problema fondamentale: una nuova versione del modello può modificare i presupposti su cui si basava la valutazione del rischio originaria.
Ciò vale anche nel caso in cui la destinazione d'uso prevista rimanga invariata.
Cosa cambia con un nuovo modello di IA?
Gli aggiornamenti dei modelli possono avere conseguenze diverse. Una nuova versione non deve necessariamente essere peggiore o più rischiosa. Può ridurre i rischi esistenti e, al contempo, sollevare nuove questioni.
In particolare, occorre tenere conto di quanto segue:
- Prestazioni: il modello continua a svolgere i compiti previsti con la precisione e l’affidabilità richieste?
- Comportamento in caso di errore: sono cambiati i modelli di errore noti, le distorsioni o le limitazioni?
- Limiti di utilizzo: il modello è in grado di svolgere nuovi compiti o reagisce in modo diverso a determinate istruzioni?
- Protezione dei dati: Sono cambiati l'elaborazione dei dati, le interfacce o le condizioni di fornitura?
- Sicurezza: le nuove funzionalità o integrazioni comportano ulteriori possibilità di attacchi o abusi?
- Controllo umano: le misure di controllo adottate finora sono ancora adeguate?
Non tutti i cambiamenti hanno ripercussioni su tutti i settori. Ciò che conta è quali ipotesi precedenti vengono modificate dalla nuova versione.
Per questo motivo, le modifiche ai modelli non dovrebbero essere solo documentate dal punto di vista tecnico, ma anche collegate ai casi d'uso effettivi.
La mappa modello e l'inventario IA vanno di pari passo
Uno Mappa del modello descrive le caratteristiche principali di un modello di intelligenza artificiale. Tra queste figurano, in particolare, il fornitore, la versione del modello, le funzionalità, i limiti noti e le informazioni disponibili sulle prestazioni.
Tuttavia, non è da equiparare all’effettivo impiego aziendale.
Lo stesso modello può essere utilizzato, ad esempio, per un assistente documentale interno, per l’analisi delle richieste dei clienti e per fornire supporto all’ufficio del personale.
Sebbene la base tecnica sia identica, gli scopi, i dati trattati, gli interessati e le possibili ripercussioni differiscono in modo significativo.
Per quanto riguarda la governance dell’IA, occorre quindi distinguere tre livelli:
- Il modello di IA descrive le basi tecniche e le relative caratteristiche.
- Il sistema di intelligenza artificiale comprende l'applicazione concreta, compresi i relativi componenti aggiuntivi e i meccanismi di controllo.
- Il caso d'uso dell'IA descrive a quale scopo l'applicazione viene effettivamente utilizzata all'interno dell'azienda.
Nell'inventario dell'IA vengono documentate le applicazioni aziendali e le relative informazioni di governance. Il collegamento con le schede dei modelli costituisce la base per associare le modifiche apportate a un modello alle voci interessate.
Senza questo nesso, potrebbe verificarsi una Mappa del modello dovrebbero essere state aggiornate già da tempo, mentre le relative valutazioni dei rischi si basano ancora sui dati precedenti.
Cosa offre Ailance ai propri clienti
La gestione continua delle informazioni relative ai modelli può comportare un notevole dispendio di tempo.
I modelli di IA si evolvono rapidamente. I fornitori pubblicano nuove versioni, modificano le caratteristiche prestazionali o aggiungono informazioni sulle limitazioni già note.
Le aziende dovrebbero seguire tali cambiamenti, i loro Documentazione aggiornare e quindi individuare quali delle proprie applicazioni ne siano interessate.
Con Ailance KI-Governance ci occupiamo della gestione e dell'aggiornamento centralizzati delle mappe dei modelli per i nostri clienti.
Il processo, tuttavia, non si esaurisce con una descrizione aggiornata.
Se una Mappa del modello Quando si apporta una modifica, viene preso in considerazione quali voci dell'inventario IA sono associate al modello in questione e sono interessate dalla modifica.
Per queste voci, Ailance provvede a ricalcolare i rischi sulla base delle informazioni aggiornate.
I responsabili competenti saranno informati, in modo che possano valutare le ripercussioni sul loro caso specifico.
Il contesto è fondamentale:
Mappa del modello aggiornato → colpiti Dati di inventario determinati → Rischi ricalcolati → Persone responsabili informato.
Una modifica al modello non rimane quindi un caso isolato dal punto di vista tecnico Documentazione è. Ciò offre l’occasione per riesaminare la valutazione attuale dell’impegno effettivo.
Il cliente non è tenuto ad aggiornare autonomamente le informazioni relative al modello di base per ogni singolo caso d'uso. La responsabilità della valutazione dell'impiego operativo concreto spetta tuttavia alle persone competenti all'interno dell'azienda.
Perché è importante ricalcolare i rischi
Una valutazione dei rischi è sempre legata a determinate informazioni e ipotesi.
Nell'esempio iniziale, l'assistente basato sull'intelligenza artificiale è stato autorizzato perché i suoi risultati sono stati giudicati sufficientemente affidabili in base a determinate condizioni.
Se il modello cambia, queste ipotesi potrebbero continuare a essere valide. Tuttavia, potrebbero anche subire alcune modifiche.
Un nuovo calcolo dei rischi aiuta a individuare tali cambiamenti nell'attuale governance-Documentazione da tenere in considerazione.
Da ciò possono derivare risultati diversi:
| Risultato della rivalutazione | Possibile conseguenza |
|---|---|
| Nessuna variazione rilevante del rischio | La valutazione precedente e le condizioni di impiego possono rimanere valide previa verifica. |
| I singoli rischi cambiano | Le misure di controllo o le condizioni di impiego vengono verificate in modo mirato. |
| Rischi nuovi o notevolmente più elevati | Potrebbero rendersi necessari ulteriori test, misure o una nuova autorizzazione. |
Il ricalcolo automatico va distinto dalla decisione tecnica.
Un valore di rischio ricalcolato non sostituisce la verifica volta a stabilire se la nuova versione del modello sia ancora idonea allo scopo previsto.
Tuttavia, mette in evidenza i casi in cui potrebbe essere necessario un riesame.
È quindi particolarmente importante informare successivamente i responsabili. Ciò consente di effettuare la verifica tecnica in modo mirato proprio laddove la modifica può effettivamente avere ripercussioni.
Cosa devono verificare i responsabili dopo una modifica del modello?
Non ogni cambio di modello dovrebbe comportare un processo di verifica completamente nuovo. È invece opportuno valutare le conseguenze concrete.
Nell'esempio, il Persone responsabili innanzitutto verificare quali caratteristiche siano cambiate e se le misure di controllo finora stabilite siano ancora sufficienti.
Un nuovo test condotto su una selezione di richieste dei clienti potrà dimostrare se la nuova versione continua a soddisfare i requisiti precedenti.
Successivamente si potrà decidere se le condizioni di utilizzo attuali possano rimanere invariate, debbano essere adeguate o se, per il momento, sia opportuno limitarne l'ulteriore utilizzo.
Per prendere questa decisione, il Persone responsabili informazioni aggiornate sul modello, il caso d'uso in questione, i rischi ricalcolati e le decisioni di verifica e approvazione prese finora.
Ailance favorisce l'integrazione di queste informazioni e comunica alle persone competenti eventuali modifiche rilevanti.
La valutazione tecnica vera e propria rimane di competenza dei responsabili designati a tal fine. Un calcolo automatico del rischio non implica che ogni modifica al modello possa essere approvata senza un’ulteriore verifica.
Perché le mappe modellistiche attuali sono rilevanti anche dal punto di vista normativo
Il regolamento UE sull’IA distingue tra modelli di IA e sistemi di IA, nonché tra gli obblighi dei rispettivi fornitori e gestori.
L'articolo 53 stabilisce, per i fornitori di modelli di intelligenza artificiale a uso generale, i requisiti relativi alla redazione e all'aggiornamento della documentazione tecnica. Tra questi figurano le informazioni relative alle capacità e ai limiti dei modelli.
Per i sistemi di intelligenza artificiale ad alto rischio, il regolamento prevede, alle condizioni di applicazione previste, requisiti più rigorosi in materia di gestione dei rischi e aspetti tecnici Documentazione e prevede il trattamento delle modifiche rilevanti.
Da ciò non deriva alcun obbligo legale generale di predisporre, per ogni utilizzo aziendale dell’IA, una Mappa del modello crearlo in un determinato formato.
Una curata Mappa del modello costituisce tuttavia una solida base organizzativa per mantenere aggiornate le informazioni relative ai modelli e integrare le modifiche in modo tracciabile nella valutazione di specifiche applicazioni di IA.
Allo stesso modo, occorre distinguere tra un ricalcolo dei rischi, la classificazione dei rischi ai sensi dell’AI Act e un’eventuale Valutazione d'impatto sulla protezione dei dati da distinguere. Non tutte le modifiche al modello comportano una variazione della classe di rischio prevista dalla legge o rendono necessaria una nuova DSFA.
Meno impegno nella manutenzione, basi decisionali più solide
La vera sfida della governance dell'IA non consiste solo nel definire per la prima volta un nuovo caso d'uso dell'IA.
È più difficile determinare la Documentazione e mantenere aggiornate nel tempo le relative decisioni.
Ciò vale in particolare per le aziende che utilizzano lo stesso modello in diversi settori.
Senza una base modellistica comune, le modifiche dovrebbero essere ricercate, documentate e valutate più volte. Ciò comporta il rischio che alcune applicazioni vengano trascurate o che i vari reparti operino sulla base di informazioni obsolete.
La gestione centralizzata delle mappe modello in Ailance riduce questo carico di lavoro ricorrente.
Grazie all'integrazione con l'inventario dell'IA, è possibile tenere conto delle ripercussioni sulle voci esistenti, ricalcolare i rischi e informare i responsabili.
Ciò favorisce una base informativa uniforme, senza trascurare le diverse esigenze dei singoli casi d'uso.
Conclusione: una mappa modellistica deve avere un impatto sull’impiego effettivo
Uno Mappa del modello è utile nel lungo periodo solo se riesce a stare al passo con l'evoluzione del modello utilizzato.
Con le nuove schede dei modelli in Ailance KI-Governance ci occupiamo della gestione continua delle informazioni relative ai modelli per conto dei nostri clienti.
Se una modifica riguarda le voci esistenti nell'inventario KI, i rischi vengono ricalcolati e i responsabili vengono informati.
In questo modo, Ailance integra l’aggiornamento delle informazioni tecniche relative ai modelli con la gestione continua dei rischi all’interno dell’azienda.
La decisione tecnica rimane di competenza di chi di dovere: i responsabili del rispettivo impiego dell’IA. Tuttavia, questi ultimi dispongono di una base più aggiornata su cui fondare tale decisione.
Infatti, ciò che conta non è solo quale modello di IA utilizzi un’azienda, ma se la valutazione del suo impiego sia ancora in linea con quel modello.
Domande e risposte
Che cos’è una mappa del modello in Ailance KI-Governance?
Uno Mappa del modello descrive le caratteristiche principali di un modello di IA, tra cui il fornitore, la versione del modello, le funzionalità, i limiti noti e le informazioni disponibili sulle prestazioni. Grazie al collegamento con l’inventario dell’IA, le modifiche apportate a un modello possono essere associate alle applicazioni aziendali interessate.
Cosa succede in Ailance quando cambia una mappa modello?
Se una modifica al modello riguarda voci correlate nell'inventario KI, vengono individuate le voci interessate e i rischi vengono ricalcolati sulla base delle informazioni aggiornate. Successivamente, vengono informati i responsabili competenti.
È necessario sottoporre un'applicazione di intelligenza artificiale a una verifica completa dopo ogni aggiornamento del modello?
No. Non tutti i cambiamenti di modello devono necessariamente comportare un processo di verifica completamente nuovo. Ciò che conta è quali ipotesi, rischi o misure di controllo preesistenti siano interessati dalla modifica e se da ciò derivi la necessità di ulteriori verifiche o adeguamenti.
Il ricalcolo automatico del rischio sostituisce la verifica tecnica?
No. Un valore di rischio ricalcolato indica dove potrebbe rendersi necessario un riesame. La decisione in merito all’idoneità di un modello di IA per l’uso previsto e all’adeguatezza delle misure esistenti spetta ai responsabili competenti.
Una modifica al modello di IA comporta automaticamente una nuova classe di rischio o una nuova DSFA?
No. Una modifica del modello non comporta automaticamente una modifica della classificazione di rischio prevista dalla legge AI Act, né comporta automaticamente una nuova Valutazione d'impatto sulla protezione dei dati. Sono determinanti la modifica concreta, il caso specifico di applicazione e le sue effettive ripercussioni.





