Marcus Belke
CEO di 2B Advice GmbH, che guida l'innovazione nella privacy conformità e di gestione del rischio e di guidare lo sviluppo di Ailance, la nuova generazione di prodotti per la salute. conformità piattaforma.
Gli agenti di IA stanno passando da „interessanti progetti pilota“ a un nuovo livello operativo all’interno delle aziende: automatizzano catene di attività, accedono ai dati ed eseguono azioni, il tutto in modo parzialmente autonomo. Si tratta di un fenomeno voluto, ma che comporta anche rischi per la sicurezza. L’attuale „Cyber Pulse: An AI Security Report“ di Microsoft mette in guardia dall’uso incontrollato degli agenti di IA “ombra”. Quali misure concrete dovrebbero garantire una sicurezza nettamente superiore.
Dati salienti tratti dal rapporto „Cyber Pulse: An AI Security Report“ di Microsoft
Due sono i risultati che emergono dal rapporto:
Gli agenti si espandono più rapidamente di quanto molte aziende riescano a percepire e gestire.
Secondo i dati di Microsoft, oltre l„80% delle aziende Fortune 500 utilizza già “agenti attivi”, spesso creati con strumenti low-code/no-code. Di conseguenza, lo sviluppo e l’utilizzo degli agenti non sono più appannaggio esclusivo dei team tecnici.
I controlli sono in ritardo.
Microsoft fa riferimento a dati secondo cui solo il 47% delle organizzazioni implementa controlli di sicurezza specifici per la GenAI, mentre il 29% dei dipendenti utilizza già agenti di IA non autorizzati per svolgere le proprie mansioni lavorative. Si tratta della classica dinamica dello „Shadow IT“, ma con una portata notevolmente più ampia, poiché gli agenti di IA automatizzano le catene di attività e l’accesso ai dati.
Il nuovo rischio: i „doppi agenti“
Microsoft descrive un modello spesso sottovalutato da molte aziende: gli agenti di IA possono trasformarsi in „doppi agenti“ („Double Agents“) se ricevono autorizzazioni troppo ampie o vengono indotti in errore da „input non attendibili“ (ad esempio contenuti manipolati, fonti di dati o istruzioni nei flussi di lavoro). Il pericolo è che un agente non si limiti a «rispondere», ma agisca. Può leggere file, creare ticket, inviare e-mail, aggregare dati o controllare sistemi. Di conseguenza, decisioni errate o manipolazioni possono trasformarsi rapidamente in veri e propri incidenti.
I fattori scatenanti tipici sono l'eccesso di autorizzazioni (l'agente dispone di più autorizzazioni del necessario), la mancanza di Stanziamento di fondi (l'area di applicazione non è chiaramente definita) o fonti di contesto non controllate (l'agente utilizza informazioni provenienti da fonti che possono essere influenzate dagli aggressori). Il rischio in questo caso non è solo quello di „risposte sbagliate“, ma anche di fughe di dati, elusione di policy o azioni non volute nei sistemi produttivi.
Microsoft sottolinea che non si tratta di uno scenario teorico: Il rapporto fa riferimento, tra l'altro, alle campagne osservate di „avvelenamento della memoria“, in cui gli aggressori influenzano la „memoria“ persistente di un assistente/agente in modo tale da indirizzarne il comportamento o le risposte successive nella direzione desiderata. Proprio perché tali effetti sono silenziosi (non si tratta di malware classico e spesso non c'è un allarme immediato), c'è un alto rischio che rimangano inosservati per molto tempo, fino a quando un Audit, un incidente o un flusso di dati „inspiegabile“ porta il problema sul tavolo.
Suggerimento di lettura: Implementare con successo la governance dell'IA in 5 passi
Zero Trust ora disponibile anche per gli agenti IA
Per Microsoft, quindi, può esserci solo una conseguenza: Trattate gli agenti come dipendenti o conti di servizio. Poiché gli agenti prendono decisioni e eseguono azioni, devono attenersi alle stesse regole di base di qualsiasi altra identità nel settore IT, in particolare al principio dello “Zero Trust”.
Fiducia zero in questo contesto significa in particolare tre cose:
- Privilegio minimo: Un agente riceve solo i diritti di cui ha bisogno per lo scopo chiaramente definito e non „per ogni evenienza“. Ciò comprende anche limiti temporali, ruoli e una chiara separazione per classi di dati. Ogni autorizzazione aggiuntiva può aggravare il danno qualora l’agente venga indotto in errore o compromesso.
- Verifica esplicita: Gli accessi e le azioni non dovrebbero avvenire „implicitamente“. L'identità, il contesto e il rischio vengono verificati per ogni azione rilevante: di quale agente si tratta? Chi ne è il proprietario? In quale processo si trova? A quali dati accede e tale accesso è consentito per questo scopo? Ciò include percorsi di autorizzazione tracciabili, l'applicazione delle politiche e Audit-Log che, in caso di dubbio, possono spiegare perché è stata eseguita una determinata azione.
- Ipotizzare un compromesso: Progettare gli agenti come se manipolazioni o comportamenti errati potessero verificarsi in qualsiasi momento. Ciò significa: guardrail chiari, monitoraggio delle anomalie, impostazioni predefinite sicure, percorsi di risposta rapidi e un playbook degli incidenti che copra esplicitamente gli scenari degli agenti.
In pratica, ciò significa che un agente non è uno „strumento“ che basta semplicemente attivare. È un’identità attiva che deve essere limitata, monitorata e gestita in modo da poter essere sottoposta a verifica.
L'osservabilità come base per gli agenti di intelligenza artificiale
Microsoft punta inoltre sull’osservabilità come presupposto fondamentale: non si può proteggere ciò che non si vede („you can’t protect what you can’t see“). Ciò implica una Livello di controllo (Control Plane), che rende trasparenti gli agenti di intelligenza artificiale nelle attività quotidiane. Questo livello costituisce la base necessaria per poter garantire la governance e la sicurezza. Esso mostra che:
- Quali agenti esistono.
- A chi appartengono.
- Con quali sistemi e dati interagiscono.
- Come si comportano.
Importante: l'osservabilità serve anche per controllo continuo. Ciò consente alle organizzazioni di individuare tempestivamente se un agente accede improvvisamente a nuove classi di dati, se innesca azioni insolite o se le dipendenze in background subiscono variazioni.
Secondo Microsoft, l’observability comprende i seguenti cinque ambiti:
- Registro: Tutti gli agenti di intelligenza artificiale utilizzati all'interno dell'azienda vengono registrati in un registro centrale. Questo inventario contribuisce a impedire una diffusione incontrollata degli agenti e garantisce la tracciabilità. Gli agenti non autorizzati possono essere limitati o messi in quarantena.
- Controllo degli accessi: Ogni agente viene gestito con gli stessi controlli di accesso basati sull’identità e sulle politiche applicati anche agli utenti umani e alle applicazioni. L'applicazione coerente delle autorizzazioni con privilegi minimi garantisce che gli agenti possano accedere solo ai dati, ai sistemi e ai flussi di lavoro necessari per lo svolgimento delle loro funzioni.
- Visualizzazione: I dashboard in tempo reale e la telemetria offrono informazioni dettagliate sull’interazione degli agenti con persone, dati e sistemi. I dirigenti possono vedere dove operano gli agenti, comprendere le interdipendenze e monitorare comportamenti e impatti, consentendo di individuare più rapidamente abusi, anomalie o rischi emergenti.
- Interoperabilità: Gli agenti operano secondo un modello di governance uniforme. Questa interoperabilità consente agli agenti di collaborare con le persone e con altri agenti attraverso diversi flussi di lavoro, pur essendo gestiti nell'ambito degli stessi controlli aziendali.
- Sicurezza: Le misure di protezione integrate tutelano gli agenti da abusi interni e minacce esterne. I segnali di sicurezza, l'applicazione delle politiche e gli strumenti integrati aiutano le aziende a individuare tempestivamente gli agenti compromessi o mal configurati e a reagire rapidamente.
Implementazione dell'osservabilità con la governance di Ailance AI
Se desiderate utilizzare gli agenti di intelligenza artificiale in modo produttivo, vale la pena stabilire fin da ora un punto di partenza per la governance. Governance Ailance AI copre esattamente gli elementi che Microsoft descrive come standard minimo:
- Inventario e proprietà dell'agente: Trasparenza su quali agenti di IA esistono, chi li possiede e per cosa vengono utilizzati.
- Controllo degli accessi e minimi privilegi: Riducete i diritti al minimo, definite chiaramente i ruoli e autorizzateli in modo trasparente.
- Tracciabilità: Visibilità su flussi di dati, azioni, dipendenze e anomalie.
- Conformità- Controlli per l'IA: Classificazione dei dati, regole di protezione, registrazione e applicazione delle politiche per i flussi di lavoro degli agenti.
- Uso sanzionato al posto degli agenti ombra: Un percorso autorizzato e sicuro che consenta l’adozione e riduca le soluzioni alternative.
- Normativa e rendicontazione gestionale: Documentazione e gli indicatori chiave di prestazione (KPI), affinché la questione possa essere gestita anche a livello dirigenziale.
Richiedi un Verifica degli standard minimi di governance dell'IA o prenotare un Demo di Ailance. Nel corso di un breve incontro vi mostreremo in quali ambiti siete già ben posizionati e quali misure vi consentiranno di ottenere il massimo effetto per una scalabilità sicura.
Marcus Belke è amministratore delegato di 2B Advice, nonché avvocato ed esperto di informatica per Protezione dei dati e digitale Conformità. Scrive regolarmente di governance dell'IA, GDPR-Conformità e la gestione dei rischi. Per saperne di più su di lui, visitate il suo Pagina del profilo dell'autore.
German 
English 
Italian 
French