Governance e sicurezza dell’IA: un quadro operativo per le imprese svizzere

AIUTO ALLA DECISIONE · GOVERNANCE

Adeguare il livello di controllo alle conseguenze

Il rischio non dipende dal nome di un modello. Dipende dai dati in gioco, da ciò che il sistema può fare e da quanto facilmente un errore si vede e si corregge.

01Livello → controlli minimi

01Livello 1

redigere o cercare per uso interno

strumento approvato · formazione di base · regola sui dati · iscritto nell’inventario

02Livello 2

il risultato va a un cliente o orienta una decisione professionale

revisore nominato · set di prova prima della messa in servizio · errori monitorati

03Livello 3

agisce nei vostri software, tocca dati protetti o una decisione su una persona

decisione formale · valutazione d’impatto se richiesta · diritti minimi · conferma · registrazione · arresto immediato

Una corsia rapida per il livello 1; la governance più rigorosa per gli usi che possono causare un danno reale.

02Cinque passi, un solo dossier

01Censire→

02Classificare→

03Controllare→

04Verificare→

05Rispondere→

La governance dell’IA fallisce quando resta un documento di politica. I team devono sapere quali sistemi esistono, che cosa hanno il diritto di fare, quali controlli si applicano e quali prove sono richieste prima di mettere in servizio un uso più rischioso. Fallisce anche quando è troppo pesante: se ogni uso passa dallo stesso comitato, il lavoro si fa altrove, su account personali.

Questo quadro si rivolge alle direzioni di imprese che gestiscono diversi usi e diversi progetti di IA. Si riassume in sei elementi.

1. Un inventario aggiornato

Partite dagli usi dell’IA, non solo dai fornitori approvati. Per ognuno annotate il responsabile operativo, gli utenti, il processo interessato, le categorie di dati, lo strumento o il modello, i collegamenti con altri programmi e l’effetto sulle decisioni. Includete l’IA integrata nei programmi che usate già, e gli usi non dichiarati quando sono significativi.

L’inventario diventa la base di tutto il resto: classificazione, controlli, risposta agli incidenti. Deve vivere insieme agli acquisti e ai progetti (ogni nuovo strumento o progetto vi entra), non dipendere da un’indagine annuale.

2. Tre livelli di controllo

Uno stesso modello può servire un uso innocuo o un uso critico. Si classifica quindi l’uso reale, con sei domande:

La risposta più forte fissa il livello; non si fa una media, che cancellerebbe un rischio reale.

• Livello 1: l’IA redige o cerca per un uso interno. Strumento professionale approvato, formazione di base, regola sui dati, semplice registrazione nell’inventario.
• Livello 2: il risultato arriva a un cliente o orienta una decisione professionale. In più: una persona designata rilegge, prima della messa in servizio si esegue una serie di prove rappresentative, gli errori vengono seguiti.
• Livello 3: il sistema agisce nei vostri programmi, tocca dati protetti o una decisione su una persona. In più: decisione formale di un responsabile, valutazione d’impatto se la nLPD la richiede, diritti minimi, conferma esplicita delle azioni irreversibili, registrazione delle attività, possibilità di arresto immediato.

Il risultato è una frase per ogni uso, non un’etichetta su un modello. «Claude è senza rischi» non vuol dire nulla. «L’assistente sinistri redige risposte a partire dalle condizioni generali approvate, non invia mai nulla da solo, e ogni risposta è riletta da un gestore designato» è una frase che si può controllare.

3. Una raccolta di controlli riutilizzabili

Ogni controllo è un elemento che un team collega al proprio uso, con un responsabile, un modo di metterlo in opera, una prova prodotta e una frequenza di verifica.

• Identità e accessi. Account creati dalla rubrica aziendale, amministratori separati dagli utenti, accessi revocati alla partenza o al cambio di funzione. Per un agente, l’identità tecnica ha meno diritti della persona che aiuta: «l’utente vi ha accesso» non basta per dire «l’agente può agire su questo».
• Perimetro dei dati. Fonti autorizzate, esclusioni, durata di conservazione, luogo di trattamento, destinazioni permesse dei risultati. I diritti di accesso ai documenti si applicano al momento della ricerca, non vengono affidati a un’istruzione del tipo «non rivelare informazioni riservate».
• Qualità e prove. Una serie di prove con versioni tracciate: casi correnti, casi ambigui, casi trappola, casi multilingui, errori passati noti. Si annota perché una prova fallisce, la sua gravità e se una persona se ne sarebbe accorta.
• Controllo delle azioni. Separare leggere, proporre ed eseguire. I parametri di un’azione sono verificati dal programma, non dal modello; un pagamento, un invio a un cliente o una cancellazione sono confermati da una persona.
• Tracce. Informazioni sufficienti per ricostruire che cosa è successo (uso, utente, versione del modello, strumenti richiamati, decisione di chi ha riletto, costo), senza una sorveglianza sproporzionata dei collaboratori.

4. L’IA generativa è una superficie d’attacco

Istruzioni nascoste iniettate in un documento, fuga di dati attraverso uno strumento collegato, agente con troppi diritti, contesto avvelenato: sono rischi di sistema, che un semplice invito alla prudenza non risolve. Descrivete la catena completa (utente, interfaccia, orchestrazione, strumenti collegati, ricerca documentale, modello, destinatari dei risultati), riducete i diritti, isolate i contenuti non affidabili ed esigete una conferma per le azioni che impegnano l’impresa. L’OWASP Top 10 per le applicazioni LLM è un buon elenco di partenza.

5. Una governance che risponde in fretta

Una governance che sa dire solo di no produce usi non dichiarati. Meglio un servizio con una porta d’ingresso conosciuta, modelli riutilizzabili e tempi di risposta pubblicati:

• Livello 1: corsia rapida. Strumento approvato, formazione seguita, registrazione nell’inventario, risposta in pochi giorni.
• Livello 2: dossier tipo (scheda dell’uso, schema dei dati, risultati delle prove) e una persona designata per la rilettura.
• Livello 3: decisione di un comitato ristretto, con un parere contrario.

Pubblicate le domande che porrete prima che un team cominci a costruire: i progetti arriveranno meglio preparati.

Basta una breve revisione mensile, con quattro rubriche fisse: movimenti dell’inventario (nuovi usi, cambiamenti, ritiri), stato dei controlli (eccezioni di accesso, prove in calo, revisioni in ritardo, cambiamenti presso i fornitori), incidenti e quasi incidenti, decisioni da prendere. Ogni trimestre verificate che i livelli siano ancora corretti: un uso passa al livello 2 quando i suoi risultati cominciano a uscire dall’impresa.

6. Responsabili designati

Ogni uso ha tre responsabili: un responsabile operativo per lo scopo e i risultati, un responsabile tecnico per la realizzazione e l’esercizio, un responsabile dei rischi che accetta i controlli. Ufficio giuridico, sicurezza, protezione dei dati e acquisti portano la loro competenza; non diventano per impostazione predefinita i titolari di ogni risultato dell’IA.

Il test della direzione

La questione non è se l’impresa abbia una politica sull’IA, ma se possa mostrare, per ogni uso importante, chi l’ha autorizzato, con quali controlli e con quali risultati. Il dossier minimo della direzione contiene l’inventario per livello, le eccezioni aperte, i cambiamenti importanti presso i fornitori e nei modelli, gli incidenti e le decisioni richieste.

Tre segnali richiedono un intervento immediato: l’inventario conta meno usi degli strumenti accessibili ai collaboratori; la regola vieta un comportamento che lo strumento approvato rende il più semplice; nessuno sa spiegare perché un uso di livello 3 è stato autorizzato. Sono difetti di progettazione, non di formazione.

Da dove cominciare

In un’impresa di qualche centinaio di persone, l’inventario, la classificazione degli usi esistenti, i primi controlli e la revisione mensile si mettono in piedi in un trimestre. Lo facciamo nell’Accompagnamento IA: a prezzo fisso su preventivo, oppure in abbonamento (formula Introduzione a CHF 5'100 al mese per 30 ore, o Trasformazione a CHF 9'600 per 60 ore, per almeno tre mesi). I controlli tecnici di un agente o di un’integrazione (diritti, tracce, conferme) rientrano nell’offerta Engineering IA. Gli obblighi legali da integrare sono descritti nell’analisi nLPD, AI Act e IA generativa.