Marcus Belke
CEO di 2B Advice GmbH, che guida l'innovazione nella privacy conformità e di gestione del rischio e di guidare lo sviluppo di Ailance, la nuova generazione di prodotti per la salute. conformità piattaforma.
Gli agenti di intelligenza artificiale si stanno evolvendo da „entusiasmanti progetti pilota“ a un nuovo livello operativo nelle aziende: Automatizzano catene di compiti, accedono a dati ed eseguono azioni, il tutto in modo parzialmente autonomo. Questo è intenzionale, ma comporta anche rischi per la sicurezza. L'ultimo „Cyber Pulse: An AI Security Report“ di Microsoft mette in guardia dall'uso incontrollato di agenti AI ombra. Quali misure specifiche sono destinate a garantire una sicurezza significativamente più elevata.
Cifre chiave tratte da „Cyber Pulse: An AI Security Report“ di Microsoft
Due sono i risultati che emergono dal rapporto:
Gli agenti si stanno espandendo più velocemente di quanto molte aziende riescano a vedere e controllare.
Secondo i dati di Microsoft, oltre l„80% delle aziende Fortune 500 utilizza già “agenti attivi", spesso creati con strumenti low-code/no-code. Ciò significa che la creazione e l'utilizzo degli agenti non avvengono più solo nei team tecnici.
I controlli sono in ritardo.
Microsoft sottolinea i dati che dimostrano che solo il 47% delle organizzazioni implementa controlli di sicurezza specifici per la GenAI, mentre il 29% dei dipendenti utilizza già agenti AI non approvati per le attività lavorative. Si tratta della classica dinamica di „shadow IT“, ma con una portata molto più ampia, in quanto gli agenti AI automatizzano le catene di attività e l'accesso ai dati.
Il nuovo rischio: „Agenti doppi“
Microsoft descrive un modello che viene sottovalutato da molte aziende: Gli agenti di intelligenza artificiale possono diventare „agenti doppi“ se ricevono autorizzazioni troppo ampie o se vengono indirizzati in modo errato da „input non attendibili“ (ad esempio, contenuti manipolati, fonti di dati o istruzioni nei flussi di lavoro). Il pericolo è che un agente non solo „risponda“, ma agisca anche. Può leggere file, creare ticket, attivare e-mail, unire dati o controllare sistemi. Di conseguenza, decisioni o manipolazioni sbagliate possono trasformarsi rapidamente in veri e propri incidenti.
I fattori scatenanti tipici sono l'eccesso di autorizzazioni (l'agente dispone di più autorizzazioni del necessario), la mancanza di Stanziamento di fondi (l'area di applicazione non è chiaramente definita) o fonti di contesto non controllate (l'agente utilizza informazioni provenienti da fonti che possono essere influenzate dagli aggressori). Il rischio in questo caso non è solo quello di „risposte sbagliate“, ma anche di fughe di dati, elusione di policy o azioni non volute nei sistemi produttivi.
Microsoft sottolinea che non si tratta di uno scenario teorico: Il rapporto fa riferimento, tra l'altro, alle campagne osservate di „avvelenamento della memoria“, in cui gli aggressori influenzano la „memoria“ persistente di un assistente/agente in modo tale da indirizzarne il comportamento o le risposte successive nella direzione desiderata. Proprio perché tali effetti sono silenziosi (non si tratta di malware classico e spesso non c'è un allarme immediato), c'è un alto rischio che rimangano inosservati per molto tempo, fino a quando un Audit, un incidente o un flusso di dati „inspiegabile“ porta il problema sul tavolo.
Suggerimento di lettura: Implementare con successo la governance dell'IA in 5 passi
Zero Trust ora anche per gli agenti AI
Pertanto, la conseguenza per Microsoft può essere una sola: Trattate gli agenti come dipendenti o conti di servizio. Poiché gli agenti prendono decisioni ed eseguono azioni, hanno bisogno delle stesse regole di base di qualsiasi altra identità nell'IT, in particolare il rispetto della fiducia zero.
Fiducia zero in questo contesto significa in particolare tre cose:
- Privilegio minimo: Un agente riceve solo i diritti necessari per il suo scopo chiaramente definito e non „per tutti i casi“. Ciò include anche limiti di tempo, ruoli e una chiara separazione per classe di dati. Qualsiasi autorizzazione aggiuntiva può aumentare i danni se l'agente viene indirizzato in modo errato o compromesso.
- Verifica esplicita: L'accesso e le azioni non devono avvenire „implicitamente“. L'identità, il contesto e il rischio vengono verificati per ogni azione rilevante: Di quale agente si tratta? Chi è il proprietario? In quale processo si trova? A quali dati sta accedendo ed è autorizzato a farlo? Questo include percorsi di autorizzazione tracciabili, applicazione di policy e registri di audit che possono spiegare perché un'azione è stata eseguita in caso di dubbio.
- Ipotizzare un compromesso: Progettare gli agenti come se manipolazioni o comportamenti errati potessero verificarsi in qualsiasi momento. Ciò significa: guardrail chiari, monitoraggio delle anomalie, impostazioni predefinite sicure, percorsi di risposta rapidi e un playbook degli incidenti che copra esplicitamente gli scenari degli agenti.
In termini pratici, ciò significa che un agente non è uno „strumento“ che si attiva semplicemente. È un'identità che agisce e che deve essere limitata, monitorata e gestita in modo verificabile.
L'osservabilità come base per gli agenti di IA
Anche Microsoft si basa sull'osservabilità come prerequisito di base: non si può proteggere ciò che non si vede („you can't protect what you can't see“). Ciò significa che Livello di controllo (piano di controllo), che rende gli agenti di IA trasparenti nella vita quotidiana. Questo livello crea la base per l'applicazione della governance e della sicurezza in primo luogo. Mostra:
- Quali agenti esistono.
- A chi appartengono.
- Con quali sistemi e dati interagiscono.
- Come si comportano.
Importante: l'osservabilità serve anche per controllo continuo. Ciò consente alle organizzazioni di rilevare tempestivamente se un agente accede improvvisamente a nuove classi di dati, se attiva azioni insolite o se le dipendenze cambiano in background.
Secondo Microsoft, l'osservabilità copre le cinque aree seguenti:
- Registro: Tutti gli agenti AI utilizzati in azienda sono inseriti in un registro centrale. Questo inventario aiuta a prevenire la diffusione incontrollata degli agenti e consente di renderne conto. Gli agenti non autorizzati possono essere limitati o messi in quarantena.
- Controllo degli accessi: Ogni agente è gestito con gli stessi controlli di identità e di accesso basati su policy che si applicano agli utenti umani e alle applicazioni. Le autorizzazioni applicate in modo coerente e con privilegi minimi garantiscono che gli agenti possano accedere solo ai dati, ai sistemi e ai flussi di lavoro necessari per il loro scopo.
- Visualizzazione: Le dashboard e la telemetria in tempo reale forniscono informazioni sulle interazioni degli agenti con persone, dati e sistemi. I manager possono vedere dove operano gli agenti, comprendere le dipendenze e monitorare il comportamento e l'impatto, consentendo di identificare più rapidamente abusi, deviazioni o rischi emergenti.
- Interoperabilità: Gli agenti lavorano sotto un modello di governance standardizzato. L'interoperabilità consente agli agenti di collaborare con persone e altri agenti attraverso i flussi di lavoro, pur essendo gestiti nell'ambito degli stessi controlli organizzativi.
- Sicurezza: Le misure di sicurezza integrate proteggono gli agenti dall'uso improprio interno e dalle minacce esterne. I segnali di sicurezza, l'applicazione dei criteri e gli strumenti integrati aiutano le organizzazioni a rilevare tempestivamente gli agenti compromessi o non allineati e a rispondere rapidamente.
Implementazione dell'osservabilità con la governance di Ailance AI
Se volete utilizzare gli agenti di IA in modo produttivo, vale la pena di stabilire subito un punto di partenza per la governance. Governance Ailance AI copre esattamente gli elementi che Microsoft descrive come standard minimo:
- Inventario e proprietà dell'agente: Trasparenza su quali agenti di IA esistono, chi li possiede e per cosa vengono utilizzati.
- Controllo degli accessi e minimi privilegi: Riducete i diritti al minimo, definite chiaramente i ruoli e autorizzateli in modo trasparente.
- Tracciabilità: Visibilità dei flussi di dati, delle azioni, delle dipendenze e delle anomalie.
- Controlli di conformità per l'IA: Classificazione dei dati, regole di protezione, registrazione e applicazione dei criteri per i flussi di lavoro degli agenti.
- Uso sanzionato al posto degli agenti ombra: Un percorso condiviso e sicuro che consente l'adozione e riduce le soluzioni ombra.
- Reporting normativo e gestionale: Documentazione e KPI in modo che l'argomento possa essere gestito anche a livello esecutivo.
Richiedi un Verifica degli standard minimi di governance dell'IA o prenotare un Demo di Ailance. In un breve incontro, vi mostreremo dove siete già ben posizionati e quali misure potete utilizzare per ottenere la massima leva per uno scaling sicuro.
Fonte: „Cyber Pulse: un rapporto sulla sicurezza dell'intelligenza artificiale“ di Microsoft
Marcus Belke è amministratore delegato di 2B Advice, nonché avvocato ed esperto di informatica per Protezione dei dati e digitale Conformità. Scrive regolarmente di governance dell'IA, conformità al GDPR e gestione del rischio. Potete trovare maggiori informazioni su di lui sul sito Pagina del profilo dell'autore.
German 
English 
Italian 
French