La clasificación de riesgo es la primera decisión que debes tomar para cumplir con el AI Act. Te explicamos el árbol de decisión paso a paso, con ejemplos reales por sector y una ficha descargable para documentar tu análisis
Se hai letto il nostro articolo su cos'è l'AI ActSe hai letto il nostro articolo su cos'è l'AI Act, sai già che la normativa europea sull'intelligenza artificiale funziona con un approccio basato sul rischio: maggiore è il rischio, maggiori sono gli obblighi. Ma c'è una domanda che chiunque si pone dopo aver compreso la teoria: come faccio a sapere a quale livello di rischio rientra ogni sistema di IA che uso nella mia azienda?
La risposta è la classificazione del rischio: un análisis sistemático que determina qué obligaciones activa cada uso de IA. No es un ejercicio opcional ni un trámite burocrático. Es la decisión que condiciona todo lo demás: qué documentación necesitas, si requieres supervisión humana designada, si debes realizar una evaluación de impacto en derechos fundamentales (FRIA) o si basta con un aviso de transparencia.
En este artículo te damos el árbol de decisión paso a paso, ejemplos clasificados por sector (ecommerce, RRHH, atención al cliente, finanzas), las consecuencias de clasificar mal y una ficha de clasificación que puedes aplicar desde hoy.
Perché classificare è il primo passo e il più importante
L'AI Act non impone gli stessi obblighi a tutti i sistemi di IA. L'intensità normativa è proporzionale al rischio che genera ogni utilizzo specifico. Questo significa che classificare correttamente è ciò che distingue le aziende che si conformano in modo efficiente da quelle che accumulano burocrazia inutile o, peggio, da quelle che non si conformano credendo di non essere interessate.
Una classificazione corretta ti consente di:
- Evitare di sovra-regolarizzarti: Se il tuo motore di raccomandazioni è a rischio minimo, non hai bisogno di un fascicolo tecnico di 50 pagine. Sapere questo ti fa risparmiare tempo e denaro.
- Evitare di sottodimensionare la regolamentazione: Si tu sistema de selección de personal es alto riesgo y lo tratas como limitado, te expones a sanciones de hasta 15 millones de euros o el 3% de tu facturación.
- Attivare solo gli obblighi che corrispondono: Supervisione umana, FRIA, fascicolo tecnico, log di tracciabilità... ognuno si attiva o no a seconda del livello.
- Documentare decisioni controllabili: Se un'autorità ti chiede perché hai classificato un sistema come rischio limitato invece che alto, devi poterlo giustificare con prove.
Principio chiave: La conformità non si proclama, si dimostra con processi verificabili. La scheda di classificazione è la prima prova che la tua azienda prende sul serio la governance dell'IA.
Albero decisionale passo dopo passo: le quattro domande
Per classificare qualsiasi sistema di IA, rispondi a queste quattro domande nell'ordine. Ogni risposta ti indirizza al prossimo nodo dell'albero:
Domanda 1: il sistema colpisce le persone?
È la prima biforcazione. Se il sistema di IA non interagisce con le persone né produce risultati che le colpiscono direttamente o indirettamente, è rischio minimo. Fine dell'analisi.
Esempi di rischio minimo: filtri antispam, ottimizzazione dell'inventario, previsione aggregata della domanda, IA nei videogiochi, automazioni interne dei processi senza impatto individuale.
Se la risposta è sì, il sistema interagisce con gli utenti, elabora i loro dati o produce risultati che li colpiscono, procedi alla domanda successiva.
Domanda 2: produce effetti legali o significativi?
Qui è dove si divide il limitato dall'alto. Un effetto legale o significativo è uno che colpisce l'accesso a un diritto, un servizio essenziale o un'opportunità rilevante per la persona: un impiego, un credito, un sussidio pubblico, un'assicurazione, l'ammissione a un istituto educativo.
Se il sistema interagisce con le persone ma non produce effetti legali o significativi (un chatbot che risolve i dubbi, un generatore di descrizioni di prodotto, un assistente per i contenuti), è rischio limitato. Il tuo obbligo principale: trasparenza. Avvertire l'utente che sta parlando con un'IA ed etichettare il contenuto generato.
Se produce effetti legali o significativi, continua.
Domanda 3: in quale ambiente viene utilizzato? Coincide con l'Allegato III?
L'Allegato III dell'AI Act elenca i settori di utilizzo che attivano automaticamente la classificazione ad alto rischio. Se il tuo sistema opera in uno di questi settori, è alto rischio per uso:
- Lavoro e gestione delle persone: Assunzione, licenziamento, valutazione delle prestazioni, promozione.
- Istruzione: Ammissione, valutazione, accreditamento.
- Servizi essenziali: Sussidi pubblici, assicurazioni, alloggi, sanità, energia.
- Servizi finanziari: Valutazione della solvibilità, prevenzione delle frodi, approvazione dei crediti.
- Giustizia e applicazione della legge: Migrazione, controllo dei confini, supporto alle decisioni giudiziarie.
- Processi democratici: Sistemi che influiscono sulle elezioni o sui processi di partecipazione.
È anche ad alto rischio se il sistema è un componente di sicurezza incorporato in un prodotto regolamentato (Allegato I): dispositivi medici, macchinari industriali, veicoli autonomi.
Se il sistema ha effetti significativi ma non rientra in nessun settore dell'Allegato III e non è un componente di sicurezza, rimane a rischio limitato con obblighi rafforzati di trasparenza.
Domanda 4: qual è il ruolo della tua azienda?
L'ultima domanda non cambia il livello di rischio, ma cambia chi assume quali obblighi::
- Fornitore: Sviluppi il sistema o lo commercializzi con il tuo marchio. Responsabile della gestione dei rischi, documentazione tecnica completa, valutazione di conformità e sorveglianza post-commercializzazione.
- Responsabile dello schieramento: Integri e operi un sistema sviluppato da una terza parte. Responsabile della classificazione, DPIA/FRIA, supervisione umana, log e validazione locale dei soglie. Questo è il ruolo più comune nelle PMI.
- Importatore/Distributore: Importi o rivendi sistemi da fuori dell'UE. Responsabile di verificare la conformità, la documentazione e la tracciabilità.
Attenzione: Se modifichi sostanzialmente un sistema di IA di un fornitore (cambi il modello, aggiungi dati di addestramento propri, alterni la finalità), puoi passare da responsabile dello schieramento a fornitore. Ciò attiva obblighi significativamente maggiori.
Esempi reali di classificazione per settore
La teoria si comprende meglio con casi concreti. Queste sono classificazioni tipiche per settore:
Ecommerce
- Motore di raccomandazione dei prodotti Rischio minimo. Non colpisce diritti. Non richiede obblighi speciali.
- Chatbot di assistenza clienti: Rischio limitato. Interagisce con le persone. Obbligo: avvertenza che è un'IA.
- Generatore di descrizioni di prodotto: Rischio limitato. Obbligo: etichettare come contenuto generato dall'IA.
- Sistema anti-frode che rifiuta automaticamente gli ordini: Alto rischio se la decisione è automatica senza revisione umana (colpisce l'accesso a un servizio).
Risorse umane
- Filtro automatico dei CV: Alto rischio (Allegato III). Colpisce l'accesso all'occupazione. Richiede fascicolo tecnico, FRIA, supervisione umana, log.
- Ranking dei candidati per punteggio IA: Alto rischio. Stessa logica: decisione che colpisce diritti fondamentali.
- Chatbot interno per domande sulle risorse umane: Rischio limitato se solo informa. Se prende decisioni (approvazione ferie, valutazione), può salire ad alto rischio.
Servizio clienti
- Assistente RAG con approvazione umana: Rischio limitato. L'IA suggerisce, l'umano decide e invia.
- Classificatore automatico dei ticket: Rischio minimo se solo indirizza. Non prende decisioni sulle persone.
- Risposta automatica diretta al cliente: Rischio limitato. Se decide rimborsi o compensazioni senza umano, può essere alto rischio.
Finanza e assicurazioni
- Modello di scoring creditizio: Alto rischio (Allegato III). Decide l'accesso al finanziamento.
- Rilevamento del riciclaggio di denaro: Alto rischio. Il blocco automatico delle transazioni colpisce diritti.
- Analisi predittiva delle tendenze di mercato: Rischio minimo. Non colpisce le singole persone.
Lo stesso modello, diverso rischio. Ciò che classifica non è la tecnologia, ma l'uso.
Cosa succede se classifichi male: conseguenze reali
Classificare al di sotto del rischio reale non è un errore minore. Le conseguenze sono concrete:
Conseguenze dirette
- Sanzioni economiche: Se classifichi come limitato quello che è ad alto rischio, puoi affrontare multe fino a 15 milioni di euro o il 3% del fatturato. Per le PMI si applica l'importo inferiore, ma rimane significativo.
- Ritiro dal mercato: L'autorità competente può ordinare il ritiro dal mercato o la sospensione del servizio finché non viene corretto.
- Responsabilità civile: Se il sistema causa danno a una persona e era sottoclassificato, la responsabilità legale si aggrava.
Conseguenze operative
- Blocco nei Gate: In un modello di governance con Gate (ideazione → pilota → produzione), una classificazione errata si rileva quando le prove non corrispondono agli obblighi reali. Il sistema non passa dal Gate 1 al Gate 2.
- Danno reputazionale: Un'indagine aperta dall'autorità dell'IA genera sfiducia nei clienti e nei partner.
- Debito tecnico normativo: Riclassificare un sistema in produzione è molto più costoso che classificarlo bene dall'inizio. Devi rifare la documentazione, aggiungere controlli, implementare log retroattivamente.
La classificazione non è una tantum. I sistemi devono essere riclassificati quando cambiano la loro finalità, la popolazione colpita, i dati che utilizzano o sono integrati in nuovi prodotti regolamentati. Documenta questi fattori di ricategorizzazione nella tua scheda.
Strumento pratico: la Scheda di Classificazione e Ambito
La Scheda di Classificazione e Ambito è il documento operativo in cui registri il risultato della tua analisi. È la prima prova di conformità e il punto di partenza per qualsiasi obbligo successivo.
Una scheda completa deve includere:
- Identificazione del sistema: Nome, versione, data, responsabile, revisore e approvatore.
- Caso d'uso e contesto: Cosa fa il sistema, su quale canale opera, quale popolazione colpisce, in quale ambiente operativo funziona.
- Persone colpite ed effetti: Chi riceve l'impatto delle decisioni del sistema e che tipo di impatto è (legale, economico, emotivo, di accesso ai servizi).
- Classificazione e ruolo: Categoria AI Act (vietato, alto rischio, limitato, minimo), ruolo dell'azienda (fornitore, responsabile dello schieramento, importatore, distributore).
- Normative applicabili: Contrassegna quali si applicano: AI Act, GDPR, DSA, DMA, NIS2.
- Giustificazione della classificazione: Riferimento agli articoli e agli allegati dell'AI Act che fondano la tua decisione.
- Fattori di ricategorizzazione: Quali cambiamenti obbligherebbero a riclassificare: cambio di finalità, nuova popolazione, nuovi dati, integrazione in prodotto regolamentato.
- Controlli chiave: Supervisione umana richiesta, condizioni di astensione (quando il sistema non deve agire), limiti d'uso.
Consiglio pratico: Completa una scheda per ogni sistema di IA attivo nella tua azienda. Non deve essere un documento di 20 pagine: una scheda ben fatta sta in 1-2 pagine. L'importante è che esista, sia firmata da un responsabile e sia verificabile.
Il processo completo: dalla classificazione all'azione
Una volta classificato ogni sistema, le azioni successive dipendono dal livello:
Rischio minimo
Documenta la classificazione nella scheda e archiviala. Non sono richieste azioni aggiuntive oltre al rispetto normativo generale.
Rischio limitato
- Implementa gli avvisi di trasparenza (l'utente deve sapere che sta parlando con un'IA).
- Etichetta il contenuto generato dall'IA.
- Documenta nella scheda e rivedi periodicamente.
Alto rischio
- Avvia il fascicolo tecnico: finalità, dati, architettura, metriche, soglie, rischi, salvaguardie.
- Completa la FRIA (valutazione di impatto sui diritti fondamentali).
- Completa il DPIA se il sistema elabora dati personali.
- Designa la persona responsabile della supervisione umana: con competenza, autorità e criterio.
- Abilita i log di tracciabilità per ricostruire qualsiasi decisione.
- Configura soglie semaforo: verde (GO), ambra (FIX), rosso (KILL).
- Non schierare senza passare i Gate di validazione.
Per rischio vietato, l'azione è una sola: immediate withdrawal. Non ci sono controlli né mitigazioni possibili.
I cinque errori più comuni nella classificazione
Dopo aver accompagnato decine di aziende in questo processo, questi sono i modelli di errore che vediamo più frequentemente:
- Confondere tecnologia con rischio. Pensare che perché usi ChatGPT il rischio è alto, o perché è «solo un chatbot» è minimo. Il rischio non è definito dal modello, ma dall'uso e dall'impatto sulle persone.
- Operare con le soglie predefinite del fornitore. Uno degli errori più gravi nei sistemi ad alto rischio: accettare la configurazione standard senza validarla nel tuo contesto specifico. Le soglie del fornitore sono generiche; la tua popolazione e il tuo ambiente no.
- Non documentare la giustificazione. Classificare mentalmente come «limitato» senza lasciare traccia scritta. Quando un'autorità chiede, «ci è sembrato che fosse limitato» non è una prova. Hai bisogno della scheda firmata con riferimento a articoli e allegati.
- Dimenticare la ricategorizzazione. Classificare una volta e non rivedere mai più. I sistemi evolvono: cambiano i dati, si amplia la popolazione, si modifica la finalità. Ogni cambiamento rilevante obbliga a rivalutare.
- Ignorare il ruolo dell'azienda. Molte aziende presumono di essere «semplici utenti» dell'IA senza obblighi. Se integri, configuri e operi il sistema, sei responsabile dello schieramento e hai obblighi concreti: DPIA, supervisione umana, log, validazione delle soglie.
Regola d'oro: In caso di dubbio, classifica verso l'alto. È più facile rilassare i controlli quando dimostri che non sono necessari che aggiungerli retroattivamente quando un'autorità determina che lo sono.
Il tuo prossimo passo
La classificazione del rischio non è un esercizio accademico. È la decisione operativa che determina cosa ti richiede la legge, quante risorse devi investire nella conformità e come proteggi la tua azienda dalle sanzioni.
Inizia oggi: fai un elenco di tutti i sistemi di IA attivi nella tua azienda, passa ogni uno attraverso le quattro domande dell'albero decisionale e documenta il risultato in una scheda. Se scopri che hai sistemi ad alto rischio senza le prove necessarie, questo è il tuo prossimo progetto prioritario.
Se hai bisogno di aiuto per effettuare l'audit di classificazione, preparare le schede o allestire il fascicolo tecnico per i sistemi ad alto rischio, in Impulsa3 ti accompagniamo attraverso l'intero processo con un approccio pratico e senza gergo legale inutile.
