Governance AI: perché l’assenza di controllo è un rischio che l’azienda sta già pagando.
La diffusione dell’intelligenza artificiale e degli agenti AI in azienda sta accelerando a un ritmo che la governance non riesce a seguire. Il risultato non è inefficienza: è esposizione al rischio. Normativa europea (EU AI Act, Reg. UE 2024/1689) e legge italiana 132/2025 hanno inoltre ridefinito il perimetro della responsabilità d'impresa nell'uso dell'intelligenza artificiale.
Questo articolo analizza perché affidarsi a soluzioni AI costruite senza competenza strategica e senza un modello di controllo strutturato non è una scelta tattica rischiosa, è una vulnerabilità sistemica. Il lettore comprenderà come si costruisce un modello di governance AI solido, quali sono le conseguenze concrete dell'assenza di controllo e perché la governance non è un costo di compliance, ma un asset proprietario che protegge il valore del business nel tempo.
Governance AI: il divario che nessuno vuole vedere.
Il paradosso è documentato. Oltre il 70% delle grandi organizzazioni europee utilizza già soluzioni AI in processi core, ma meno della metà ha implementato un modello di governance AI realmente formalizzato. Questo divario non è un ritardo temporaneo destinato a colmarsi spontaneamente: è purtroppo una frattura strutturale tra la velocità dell'adozione tecnologica e la maturità dei sistemi di controllo.
Il problema si aggrava quando l'AI non viene progettata internamente, ma affidata a realtà esterne prive di competenza strategica. Un agente AI costruito senza una diagnosi approfondita del contesto aziendale, senza mappatura dei dati trattati e senza architettura di supervisione, diventa un sistema autonomo che opera in aree critiche del business senza che nessuno sappia esattamente cosa fa, con quali dati lavora e quali decisioni genera. Il punto è che questa condizione non è teorica: è la norma in una percentuale significativa delle implementazioni AI oggi attive nelle PMI italiane.
Di riflesso, il fenomeno della Shadow AI, ossia l'uso non autorizzato di strumenti AI da parte dei dipendenti al di fuori di qualsiasi supervisione, riguarda oggi otto lavoratori su dieci nelle aziende italiane. Non si tratta di faciloneria o insubordinazione: è il sintomo di un'incapacità strutturale dell'organizzazione di formare il personale e soprattutto di rispondere alle esigenze operative con strumenti governati e sicuri.
Quando l’autonomia dell’agente diventa rischio d’impresa.
Un agente AI non è un software passivo. È un sistema che prende decisioni, accede a dati, genera output e, nelle architetture più evolute, esegue azioni su sistemi esterni. Pertanto, la domanda rilevante non è «funziona?» ma «chi è responsabile di ciò che fa?». Lo standard ISO/IEC 42001:2023 e il NIST AI Risk Management Framework convergono infatti su un principio chiaro: la governance dell'AI deve coprire l'intero ciclo di vita del sistema, dalla progettazione al monitoraggio continuo in produzione.
Non è sufficiente validare un modello una volta al momento del rilascio.
Questo impone una riflessione che molte aziende evitano: un agente AI realizzato da un fornitore non specializzato, senza trasparenza sull'architettura, senza log di audit e senza meccanismi di rollback, è un sistema che l'azienda non controlla davvero. E un sistema non controllato, in un contesto normativo come quello attuale, è una passività. Non un asset come invece dovrebbe essere!
Il quadro normativo che ha cambiato le regole del gioco.
La Legge 23 settembre 2025, n. 132 è entrata in vigore il 10 ottobre 2025 ed è la prima legge nazionale organica sull'intelligenza artificiale in Europa. Il suo principio cardine è diretto: l'uso dell'AI deve essere antropocentrico, trasparente e responsabile, con obbligo che la decisione finale resti sempre in capo a una persona fisica.
Per le imprese, questo non è un dettaglio normativo: è un vincolo operativo che ridisegna la responsabilità di chi adotta sistemi AI senza adeguata supervisione.
A questo si aggiunge il Regolamento UE 2024/1689 (EU AI Act), con applicazione progressiva fino al 2026, che classifica numerosi sistemi AI come ad alto rischio e impone obblighi specifici: documentazione tecnica strutturata, log adeguati, valutazioni di rischio, supervisione umana verificabile.
Le sanzioni previste raggiungono i 35 milioni di euro o il 7% del fatturato globale per le violazioni più gravi. In parallelo, il GDPR rimane pienamente operativo: caricare dati personali su piattaforme AI non autorizzate costituisce, nella maggior parte dei casi, un trasferimento illecito di dati con sanzioni fino al 4% del fatturato mondiale annuo.
Il costo reale di un breach legato all’AI.
I numeri crescenti non lasciano inoltre alcun margine di interpretazione. Le organizzazioni con alti livelli di Shadow AI hanno registrato in media centinaia e centinaia di migliaia di dollari di costi aggiuntivi per breach rispetto a quelle con livelli bassi o nulli. Il 97% delle organizzazioni che ha subito una violazione legata all'AI non disponeva di controlli di accesso adeguati per i propri strumenti di intelligenza artificiale.
In Italia, il costo complessivo di un incidente grave (riscatto, blocco operativo, ripristino tecnico, sanzioni GDPR, costi legali, eccetera) può superare i 3 milioni di euro, senza considerare il danno reputazionale che, per definizione, non è quantificabile ma incide direttamente sulla fiducia di clienti, partner e investitori.
Questo scenario impone pertanto una lettura precisa: il costo della governance AI non va confrontato con il costo di un progetto tecnologico. Va confrontato con il costo di un incidente che non è stato prevenuto, potenzialmente devastante da tutti i punti di vista. A partire dall'erosione del capitale di fiducia conquistato.
Cosa significa costruire una governance AI solida.
Una governance AI solida si fonda su tre pilastri che devono coesistere.
• Il primo è la visibilità completa: ogni azione dell'agente deve essere tracciabile, ogni accesso ai dati deve essere registrato, ogni output deve essere attribuibile a un processo verificabile.
• Il secondo è la conseguente necessità di un rigoroso controllo degli accessi, fondato sul principio del minimo privilegio. Ossia, ogni componente del sistema accede solo ai dati strettamente necessari alla sua funzione.
• Il terzo elemento, spesso il più trascurato nelle implementazioni frettolose, è la capacità di rollback. Ossia la possibilità di interrompere, correggere o annullare le azioni di un agente quando qualcosa non funziona come previsto.
A questi tre pilastri si aggiunge una dimensione organizzativa che nessuna architettura tecnica può sostituire: la definizione esplicita di ruoli e responsabilità. Chi supervisiona il sistema? Chi è autorizzato a modificarne i parametri? Chi risponde in caso di errore? Oggi solo il 28% delle organizzazioni ha definito formalmente ruoli di supervisione per la governance AI.
Questo dato non descrive pertanto un ritardo tecnologico, descrive un vuoto di responsabilità che, in presenza di un incidente, diventa immediatamente un problema legale.
Il principio human-in-the-loop come requisito non negoziabile. L'approccio human-in-the-loop (presenza di supervisione umana attiva nei processi governati dall'AI) non è una preferenza metodologica. Fino al raggiungimento della piena maturità tecnologica degli agenti AI, è un requisito che per quanto ci riguarda deve essere solo operativo. L'Osservatorio Artificial Intelligence del Politecnico di Milano ha identificato infatti nell'agentic AI la parola dell'anno 2025, sottolineando che la convergenza tra ragionamento probabilistico e capacità di autocorrezione non è ancora completa. In altri termini: un agente AI oggi non può essere lasciato operare in autonomia su processi critici senza un meccanismo di controllo umano attivo. Questo determina una conseguenza diretta per le aziende che hanno adottato agenti AI realizzati da fornitori non specializzati. Se il sistema non è stato progettato con supervisione umana integrata, l'azienda non è conforme, indipendentemente da quanto il fornitore abbia dichiarato in fase di vendita.
Il caso del produttore di omeopatici: una vulnerabilità evitata.
Un'azienda del settore farmaceutico-complementare, specializzata nella produzione e distribuzione di prodotti omeopatici, aveva affidato a un fornitore esterno lo sviluppo di un agente AI per la gestione delle comunicazioni con i distributori e il supporto alla documentazione regolatoria. Il sistema era operativo da alcuni mesi quando una verifica interna casuale ha rilevato anomalie ritenute particolarmente serie. L'agente poteva infatti accedere infatti ad un perimetro di dati significativamente più ampio rispetto a quanto necessario alla sua funzione, includendo formulazioni proprietarie, dati di clienti e corrispondenza commerciale riservata.
La diagnosi strategica ha identificato conseguentemente tre vulnerabilità critiche. L'architettura non prevedeva log di audit strutturati, rendendo impossibile ricostruire quali dati fossero stati elaborati e in quale contesto. Non esisteva alcun meccanismo di supervisione umana sui processi automatizzati. Inoltre, il fornitore non aveva documentato il trattamento dei dati secondo i requisiti GDPR, esponendo l'azienda a un trasferimento illecito potenzialmente già in corso.
L'intervento ha ridefinito l'architettura del sistema partendo dalle necessità aziendali di base e non dal funzionamento, applicando il principio del minimo privilegio, implementato log di audit verificabili e introducendo un protocollo di supervisione umana sui processi sensibili. La vulnerabilità è stata sanata prima che producesse conseguenze: una violazione dei dati in un settore regolamentato come quello farmaceutico-complementare avrebbe comportato infatti sanzioni GDPR, potenziale sospensione dell'attività e un danno reputazionale difficilmente reversibile su un mercato dove la fiducia del consumatore è l'asset più fragile.
Le implicazioni strategiche per chi decide oggi.
In conclusione di questo articolo, la governance AI non è un progetto da avviare quando il problema si manifesta. È un'architettura da costruire prima che il sistema vada in produzione, o comunque da verificare immediatamente se il sistema è già attivo. Ogni giorno in cui un agente AI opera senza controllo strutturato è un giorno in cui l'azienda accumula quello che gli analisti definiscono governance debt: un passivo invisibile che cresce silenziosamente e si materializza nel momento peggiore.
Lo scenario determina una scelta che non può essere rinviata: o si costruisce un modello di controllo che trasforma la governance in asset proprietario, o si accetta un'esposizione crescente a rischi normativi, economici e reputazionali che il mercato non perdona. Solo il 9% delle grandi imprese italiane dispone oggi di una governance AI strutturata che allinei le iniziative agli obiettivi aziendali. Questo dato non è un indicatore di ritardo: è una mappa delle opportunità per chi decide di muoversi con anticipo.
Le architetture di governance AI progettate secondo un modello di sovranità tecnologica, come quelle sviluppate da Swing per i propri clienti, trasformano invece il controllo in un vantaggio competitivo duraturo. Non solo proteggono il business dall'esposizione normativa o da perdite informative aziendali sensibili, ma costruiscono la base di fiducia su cui si fondano le relazioni con clienti, partner e investitori nel lungo periodo.
Tant'è che in questi ambiti, l'unica variabile che distingue le aziende che dominano da quelle che inseguono non è la velocità di adozione dell'AI, è la chiarezza con cui ne governano le conseguenze.