Classificazione del rischio nell'IA

La classificazione del rischio è la prima decisione che devi prendere per essere conforme all’AI Act. Ti spieghiamo l’albero decisionale passo dopo passo, con esempi reali per settore e una scheda scaricabile per documentare la tua analisi

Se hai letto il nostro articolo su che cos’è l’AI Act, sai già che la normativa europea sull’intelligenza artificiale funziona con un approccio basato sul rischio: più alto è il rischio, maggiori sono gli obblighi. Ma c’è una domanda che tutti si pongono dopo aver capito la teoria: come faccio a sapere a quale livello di rischio si trova ogni sistema di IA che uso in azienda?

La risposta è la classificazione del rischio: un’analisi sistematica che stabilisce quali obblighi attiva ogni uso dell’IA. Non è un esercizio facoltativo né un adempimento burocratico. È la decisione che condiziona tutto il resto: quale documentazione ti serve, se devi designare una supervisione umana, se devi svolgere una valutazione d’impatto sui diritti fondamentali (FRIA) o se basta un avviso di trasparenza.

In questo articolo ti diamo l’albero decisionale passo dopo passo, esempi classificati per settore (ecommerce, risorse umane, assistenza clienti, finanza), le conseguenze di una classificazione sbagliata e una scheda di classificazione che puoi applicare da subito.

Perché classificare è il primo passo e il più importante

L’AI Act non impone gli stessi obblighi a tutti i sistemi di IA. L’intensità normativa è proporzionale al rischio che genera ogni uso concreto. Questo significa che classificare correttamente è ciò che separa le aziende che sono conformi in modo efficiente da quelle che accumulano burocrazia inutile o, peggio, da quelle che non sono conformi credendo di non essere interessate.

Una classificazione corretta ti permette di:

Evitare di sovraregolarti: Se il tuo motore di raccomandazione è a rischio minimo, non ti serve una documentazione tecnica di 50 pagine. Saperlo ti fa risparmiare tempo e denaro.
Evitare di sottoregolarti: Se il tuo sistema di selezione del personale è ad alto rischio e lo tratti come limitato, ti esponi a sanzioni fino a 15 milioni di euro o al 3% del tuo fatturato.
Attivare solo gli obblighi che ti riguardano: Supervisione umana, FRIA, documentazione tecnica, log di tracciabilità… ognuno si attiva o meno a seconda del livello.
Documentare decisioni verificabili: Se un’autorità ti chiede perché hai classificato un sistema come a rischio limitato invece che alto, devi poterlo giustificare con evidenze.

Principio chiave: La conformità non si proclama, si dimostra con processi verificabili. La scheda di classificazione è la prima prova che la tua azienda prende sul serio la governance dell’IA.

Albero decisionale passo dopo passo: le quattro domande

Per classificare qualsiasi sistema di IA, rispondi a queste quattro domande nell’ordine. Ogni risposta ti porta al nodo successivo dell’albero:

Domanda 1: il sistema riguarda delle persone?

È la prima biforcazione. Se il sistema di IA non interagisce con persone né produce risultati che le riguardino direttamente o indirettamente, è a rischio minimo. Fine dell’analisi.

Esempi di rischio minimo: filtri antispam, ottimizzazione dell’inventario, previsione della domanda aggregata, IA nei videogiochi, automazioni interne di processi senza impatto individuale.

Se la risposta è sì, il sistema interagisce con gli utenti, tratta i loro dati o produce risultati che li riguardano, passa alla domanda successiva.

Domanda 2: produce effetti giuridici o significativi?

È qui che si separa il rischio limitato da quello alto. Un effetto giuridico o significativo è quello che incide sull’accesso a un diritto, a un servizio essenziale o a un’opportunità rilevante per la persona: un lavoro, un credito, un sussidio pubblico, un’assicurazione, l’ammissione a un istituto scolastico.

Se il sistema interagisce con le persone ma non produce effetti giuridici o significativi (un chatbot che risponde a dubbi, un generatore di descrizioni di prodotto, un assistente per i contenuti), è a rischio limitato. Il tuo obbligo principale: la trasparenza. Avvisare l’utente che sta parlando con un’IA ed etichettare il contenuto generato.

Se produce effetti giuridici o significativi, prosegui.

Domanda 3: in quale ambito viene usato? Coincide con l’Allegato III?

L’Allegato III dell’AI Act elenca gli ambiti d’uso che attivano automaticamente la classificazione ad alto rischio. Se il tuo sistema opera in uno di questi ambiti, è ad alto rischio per destinazione d’uso:

Lavoro e gestione delle persone: Assunzione, licenziamento, valutazione delle prestazioni, promozione.
Istruzione: Ammissione, valutazione, certificazione.
Servizi essenziali: Sussidi pubblici, assicurazioni, alloggio, sanità, energia.
Servizi finanziari: Valutazione del merito creditizio, prevenzione delle frodi, approvazione di crediti.
Giustizia e applicazione della legge: Migrazione, controllo delle frontiere, supporto alle decisioni giudiziarie.
Processi democratici: Sistemi che influenzano elezioni o processi di partecipazione.

È ad alto rischio anche se il sistema è un componente di sicurezza incorporato in un prodotto regolamentato (Allegato I): dispositivi medici, macchinari industriali, veicoli autonomi.

Se il sistema ha effetti significativi ma non rientra in nessun ambito dell’Allegato III e non è un componente di sicurezza, resta a rischio limitato con obblighi rafforzati di trasparenza.

Domanda 4: che ruolo ha la tua azienda?

L’ultima domanda non cambia il livello di rischio, ma cambia chi si assume quali obblighi:

Fornitore: Sviluppi il sistema o lo commercializzi con il tuo marchio. Responsabile della gestione dei rischi, della documentazione tecnica completa, della valutazione di conformità e della sorveglianza post-commercializzazione.
Deployer: Integri e gestisci un sistema sviluppato da terzi. Responsabile della classificazione, di DPIA/FRIA, della supervisione umana, dei log e della validazione locale delle soglie. È il ruolo più comune nelle PMI.
Importatore/Distributore: Immetti o rivendi sistemi provenienti da fuori dall’UE. Responsabile di verificare conformità, documentazione e tracciabilità.

Attenzione: Se modifichi in modo sostanziale il sistema di IA di un fornitore (cambi il modello, aggiungi dati di addestramento tuoi, alteri la finalità), puoi passare da deployer a fornitore. Questo attiva obblighi molto più ampi.

Esempi reali di classificazione per settore

La teoria si capisce meglio con casi concreti. Queste sono classificazioni tipiche per settore:

Ecommerce

Motore di raccomandazione di prodotti: Rischio minimo. Non incide su diritti. Non richiede obblighi particolari.
Chatbot di assistenza clienti: Rischio limitato. Interagisce con persone. Obbligo: avvisare che è un’IA.
Generatore di descrizioni di prodotto: Rischio limitato. Obbligo: etichettare come contenuto generato dall’IA.
Sistema antifrode che rifiuta ordini automaticamente: Alto rischio se la decisione è automatica senza revisione umana (incide sull’accesso a un servizio).

Risorse umane

Filtro automatico dei CV: Alto rischio (Allegato III). Incide sull’accesso al lavoro. Richiede documentazione tecnica, FRIA, supervisione umana, log.
Classifica dei candidati per punteggio IA: Alto rischio. Stessa logica: decisione che incide sui diritti fondamentali.
Chatbot interno per domande sulle risorse umane: Rischio limitato se si limita a informare. Se prende decisioni (approvazione di ferie, valutazioni), può salire ad alto rischio.

Assistenza clienti

Assistente RAG con approvazione umana: Rischio limitato. L’IA suggerisce, la persona decide e invia.
Classificatore automatico dei ticket: Rischio minimo se si limita a smistare. Non prende decisioni sulle persone.
Risposta automatica diretta al cliente: Rischio limitato. Se decide rimborsi o indennizzi senza una persona, può essere ad alto rischio.

Finanza e assicurazioni

Modello di scoring creditizio: Alto rischio (Allegato III). Decide l’accesso al finanziamento.
Rilevamento del riciclaggio di denaro: Alto rischio. Il blocco automatico delle transazioni incide sui diritti.
Analisi predittiva delle tendenze di mercato: Rischio minimo. Non riguarda singole persone.

Stesso modello, rischio diverso. A classificare non è la tecnologia, ma l’uso.

Che cosa succede se classifichi male: conseguenze reali

Classificare al di sotto del rischio reale non è un errore da poco. Le conseguenze sono concrete:

Conseguenze dirette

Sanzioni economiche: Se classifichi come limitato ciò che è ad alto rischio, puoi andare incontro a multe fino a 15 milioni di euro o al 3% del fatturato. Per le PMI si applica l’importo minore, ma resta comunque significativo.
Ritiro del sistema: L’autorità competente può ordinare il ritiro dal mercato o la sospensione del servizio finché non viene corretto.
Responsabilità civile: Se il sistema causa un danno a una persona ed era sottoclassificato, la responsabilità legale si aggrava.

Conseguenze operative

Blocco ai Gate: In un modello di governance con Gate (ideazione → pilota → produzione), una classificazione errata si scopre quando le evidenze non corrispondono agli obblighi reali. Il sistema non passa dal Gate 1 al Gate 2.
Danno reputazionale: Un’indagine aperta dall’autorità competente per l’IA genera sfiducia in clienti e partner.
Debito tecnico normativo: Riclassificare un sistema già in produzione è molto più costoso che classificarlo bene fin dall’inizio. Devi rifare la documentazione, aggiungere controlli, implementare i log a posteriori.

La classificazione non è un’operazione una tantum. I sistemi devono essere riclassificati quando cambiano la loro finalità, la popolazione interessata, i dati che utilizzano o quando vengono integrati in nuovi prodotti regolamentati. Documenta questi fattori di riclassificazione nella tua scheda.

Strumento pratico: la Scheda di Classificazione e Ambito

La Scheda di Classificazione e Ambito è il documento operativo in cui registri il risultato della tua analisi. È la prima prova di conformità e il punto di partenza per qualsiasi obbligo successivo.

Una scheda completa deve includere:

Identificazione del sistema: Nome, versione, data, responsabile, revisore e approvatore.
Caso d’uso e contesto: Che cosa fa il sistema, su quale canale opera, quale popolazione riguarda, in quale ambiente operativo funziona.
Persone interessate ed effetti: Chi subisce l’impatto delle decisioni del sistema e di che tipo di impatto si tratta (giuridico, economico, emotivo, di accesso ai servizi).
Classificazione e ruolo: Categoria AI Act (vietato, alto rischio, limitato, minimo), ruolo dell’azienda (fornitore, deployer, importatore, distributore).
Normative applicabili: Indica quali si applicano: AI Act, GDPR, DSA, DMA, NIS2.
Motivazione della classificazione: Riferimento agli articoli e agli allegati dell’AI Act su cui si fonda la tua decisione.
Fattori di riclassificazione: Quali cambiamenti obbligherebbero a riclassificare: cambio di finalità, nuova popolazione, nuovi dati, integrazione in un prodotto regolamentato.
Controlli chiave: Supervisione umana richiesta, condizioni di astensione (quando il sistema non deve agire), limiti d’uso.

Consiglio pratico: Compila una scheda per ogni sistema di IA attivo in azienda. Non deve essere un documento di 20 pagine: una scheda fatta bene sta in 1-2 pagine. L’importante è che esista, sia firmata da un responsabile e sia verificabile.

Il processo completo: dalla classificazione all’azione

Una volta classificato ogni sistema, le azioni successive dipendono dal livello:

Rischio minimo

Documenta la classificazione nella scheda e archiviala. Non servono azioni ulteriori oltre al rispetto della normativa generale.

Rischio limitato

Implementa gli avvisi di trasparenza (l’utente deve sapere che sta parlando con un’IA).
Etichetta il contenuto generato dall’IA.
Documenta nella scheda e rivedi periodicamente.

Alto rischio

Avvia la documentazione tecnica: finalità, dati, architettura, metriche, soglie, rischi, salvaguardie.
Completa la FRIA (valutazione d’impatto sui diritti fondamentali).
Completa la DPIA se il sistema tratta dati personali.
Designa la persona responsabile della supervisione umana: con competenza, autorità e capacità di giudizio.
Attiva i log di tracciabilità per poter ricostruire qualsiasi decisione.
Configura le soglie del semaforo: verde (GO), giallo (FIX), rosso (KILL).
Non rilasciare senza superare i Gate di validazione.

Per il rischio vietato l’azione è una sola: ritiro immediato. Non esistono controlli né mitigazioni possibili.

I cinque errori più comuni nel classificare

Dopo aver accompagnato decine di aziende in questo processo, questi sono gli errori che vediamo più spesso:

Confondere la tecnologia con il rischio. Pensare che, siccome usi ChatGPT, il rischio è alto, o che, siccome è «solo un chatbot», è minimo. Il rischio non lo definisce il modello, ma l’uso e l’impatto sulle persone.
Lavorare con le soglie predefinite del fornitore. Uno degli errori più gravi nei sistemi ad alto rischio: accettare la configurazione standard senza validarla nel tuo contesto specifico. Le soglie del fornitore sono generiche; la tua popolazione e il tuo ambiente non lo sono.
Non documentare la motivazione. Classificare mentalmente come «limitato» senza lasciarne traccia scritta. Quando un’autorità te lo chiederà, «ci era sembrato limitato» non è un’evidenza. Ti serve la scheda firmata con il riferimento agli articoli e agli allegati.
Dimenticare la riclassificazione. Classificare una volta e non rivedere mai più. I sistemi evolvono: cambiano i dati, si amplia la popolazione, si modifica la finalità. Ogni cambiamento rilevante obbliga a rivalutare.
Ignorare il ruolo dell’azienda. Molte aziende danno per scontato di essere «semplici utenti» dell’IA senza obblighi. Se integri, configuri e gestisci il sistema, sei il deployer e hai obblighi precisi: DPIA, supervisione umana, log, validazione delle soglie.

Regola d’oro: Nel dubbio, classifica verso l’alto. È più facile allentare i controlli quando dimostri che non servono che aggiungerli a posteriori quando un’autorità stabilisce che servivano.

Il tuo passo successivo

La classificazione del rischio non è un esercizio accademico. È la decisione operativa che stabilisce che cosa ti richiede la legge, quante risorse devi investire nella conformità e come proteggi la tua azienda dalle sanzioni.

Comincia oggi: fai un elenco di tutti i sistemi di IA attivi in azienda, passa ciascuno attraverso le quattro domande dell’albero decisionale e documenta il risultato in una scheda. Se scopri di avere sistemi ad alto rischio privi delle evidenze necessarie, quello è il tuo prossimo progetto prioritario.

Se hai bisogno di aiuto per svolgere l’audit di classificazione, preparare le schede o costruire la documentazione tecnica per i sistemi ad alto rischio, in Impulsa3 ti accompagniamo in tutto il processo con un approccio pratico e senza gergo legale inutile.