Allegato III: quando la tua funzionalità SaaS è effettivamente ad alto rischio ai sensi dell'AI Act UE

# Allegato III: quando la tua funzionalità SaaS è effettivamente ad alto rischio ai sensi dell'AI Act UE

L'errore più costoso che vedo commettere dai team SaaS è definire una funzionalità ad alto rischio come "a rischio limitato" per evitare la valutazione della conformità. Il secondo errore più costoso è l'opposto: classificare tutto come ad alto rischio perché la norma sembra spaventosa, e seppellirsi in una burocrazia di cui non si ha effettivamente bisogno.

L'Allegato III dell'AI Act UE elenca otto aree ad alto rischio. Se la tua funzionalità AI rientra in una di esse, sei soggetto a un insieme di obblighi diverso e più gravoso rispetto agli obblighi di trasparenza previsti dall'Articolo 50. Se la tua funzionalità non rientra in nessuna di esse, è probabile che sia a rischio limitato o minimo, e l'onere di conformità è molto più leggero.

Questo post descrive l'albero decisionale che il team di Disclos utilizza in ogni audit, con otto esempi tratti da SaaS reali che abbiamo analizzato.

Le otto aree dell'Allegato III, in linguaggio semplice

1. Identificazione biometrica e categorizzazione. Riconoscimento facciale, riconoscimento vocale a fini di identificazione, riconoscimento dell'andatura. Non la verifica biometrica (corrispondenza uno-a-uno come lo sblocco tramite impronta digitale).
2. Infrastrutture critiche. Acqua, gas, elettricità, gestione del traffico. Per lo più al di fuori del SaaS.
3. Istruzione e formazione professionale. Ammissioni, valutazione, monitoraggio durante gli esami, previsione dei risultati accademici.
4. Occupazione e gestione dei lavoratori. Screening dei CV, valutazione delle prestazioni, assegnazione dei compiti, decisioni di licenziamento, monitoraggio.
5. Accesso a servizi pubblici e privati essenziali. Valutazione del merito creditizio, idoneità alle prestazioni pubbliche, smistamento dei servizi di emergenza, determinazione del prezzo o della copertura di assicurazioni sanitarie e sulla vita.
6. Applicazione della legge. Valutazione del rischio degli individui, sistemi di tipo poligrafico, valutazione dell'affidabilità delle prove.
7. Migrazione, asilo e controllo delle frontiere. Valutazione del rischio, verifica dei documenti, trattamento dei visti.
8. Amministrazione della giustizia e processi democratici. Ricerca di fatti, interpretazione delle leggi, influenza sugli elettori.

Per il SaaS, le aree che ricorrono più spesso sono 1, 3, 4, 5. Le restanti raramente si applicano, a meno che non si venda a settori verticali specifici.

L'albero decisionale

Sottopongo ogni funzionalità AI a tre domande:

Domanda 1: La funzionalità prende una decisione riguardo a una persona, oppure è semplicemente uno strumento che la persona utilizza?

Se la funzionalità raccomanda, classifica, assegna un punteggio o categorizza una persona, probabilmente ci si trova nel territorio dell'Allegato III. Se la funzionalità aiuta la persona a redigere un documento, riassumere il proprio testo o generare un'immagine, probabilmente no.

Un correttore grammaticale non è ad alto rischio. Un correttore grammaticale che valuta la qualità della scrittura di un candidato e alimenta quel punteggio in una decisione di assunzione lo è.

Domanda 2: La decisione incide sull'accesso della persona a qualcosa di significativo?

Significativo significa: un lavoro, una prestazione, un posto in un percorso formativo, credito, assicurazione, assistenza sanitaria. Se la risposta è sì, si è in territorio ad alto rischio. Se l'AI aiuta la persona a decidere in quale ristorante mangiare, no.

Domanda 3: La persona è consapevole che la decisione sta avvenendo e può contestarla?

Se la risposta è no su uno dei due lati, ci si trova più in profondità nel territorio ad alto rischio e probabilmente anche in quello dei sistemi vietati ai sensi dell'Articolo 5 (AI manipolativa). Il rischio ai sensi dell'Articolo 5 è indipendente dall'Allegato III, ma vale la pena segnalarlo nello stesso audit.

Otto esempi da audit reali di SaaS

Sono casi anonimizzati ma reali. Ho esaminato ciascuno negli ultimi sei mesi.

A: SaaS per il recruitment con screening AI dei CV. Allegato III(4) occupazione. Alto rischio. Necessita di valutazione della conformità, fascicolo tecnico, politica di supervisione umana, registrazione nella banca dati UE.

B: SaaS HR con descrizioni di lavoro generate dall'AI. L'AI aiuta il recruiter a scrivere la descrizione del lavoro (JD). Il recruiter la pubblica. Nessuna decisione sui candidati. Rischio limitato ai sensi dell'Articolo 50(2) (divulgazione di contenuti sintetici). Non ad alto rischio.

C: SaaS per il supporto clienti con suggerimenti di risposte automatiche AI. L'AI suggerisce risposte, l'operatore umano ne sceglie una. Nessuna decisione automatizzata sul cliente. Rischio limitato ai sensi dell'Articolo 50(1) se la risposta dell'operatore viene inviata come prodotta dall'AI, altrimenti rischio minimo.

D: Piattaforma di prestito con scoring creditizio AI. Allegato III(5) merito creditizio. Alto rischio. Questo caso è inequivocabile. È richiesta la valutazione della conformità completa.

E: Piattaforma EdTech con tutoraggio AI che non valuta. L'AI spiega concetti agli studenti. Nessuna valutazione, nessuna decisione di ammissione, nessun monitoraggio durante gli esami. Rischio limitato ai sensi dell'Articolo 50(1). Divulgare l'uso dell'AI, fine.

F: Piattaforma EdTech con valutazione AI di elaborati scritti. Allegato III(3) istruzione. Alto rischio. Anche se un insegnante rivede il voto dell'AI prima della consegna finale, l'AI sta svolgendo il lavoro sostanziale di valutazione, e questo attiva l'Allegato III.

G: SaaS HealthTech che aiuta i medici a redigere le note sui pazienti. Il medico rivede e firma ogni nota. L'AI non diagnostica né raccomanda trattamenti. Rischio limitato ai sensi dell'Articolo 50(2) per i contenuti sintetici. Non rientra nell'Allegato III.

H: SaaS HealthTech che effettua il triage dei sintomi dei pazienti e raccomanda il livello di urgenza. Questo caso è al limite. Se la raccomandazione non è vincolante e un medico prende la decisione finale, può essere a rischio limitato. Se la raccomandazione determina chi viene visitato e in quale ordine, rientra nell'Allegato III(5) accesso a servizi essenziali. Abbiamo classificato questo caso come ad alto rischio nell'audit e abbiamo raccomandato al team di strutturare correttamente il processo con supervisione umana prima del lancio.

La differenza di costo tra fare bene e fare male

Se classifichi correttamente una funzionalità come a rischio limitato, pubblichi una comunicazione e documenti la decisione. Investimento di tempo: mezza giornata.

Se classifichi correttamente una funzionalità come ad alto rischio, costruisci un sistema di gestione del rischio, un fascicolo tecnico ai sensi dell'Articolo 11, una politica di supervisione umana, test di accuratezza e robustezza, monitoraggio post-commercializzazione, e ti registri nella banca dati UE. Investimento di tempo: da 6 a 12 settimane per un piccolo team.

Se classifichi erroneamente un'attività ad alto rischio come a rischio limitato, stai operando in violazione della normativa. L'Articolo 99(3) stabilisce la sanzione per la mancata conformità agli obblighi ad alto rischio: fino a 15 milioni di euro o il 3 percento del fatturato annuo mondiale.

Se classifichi erroneamente un'attività a rischio limitato come ad alto rischio, bruci sei settimane di tempo ingegneristico che non avresti dovuto bruciare.

Il passaggio di classificazione è quello con la leva più alta nell'intero processo di conformità all'AI Act UE. Fallo bene.

Come procede il team di Disclos

Ogni audit di 5 giorni che conduciamo inizia con la mappatura di ogni funzionalità AI del prodotto rispetto all'Allegato III. Utilizziamo lo stesso albero decisionale descritto sopra, applicato funzionalità per funzionalità, documentato per iscritto in modo che tu possa consegnare il file a un'autorità di vigilanza o a un membro del consiglio di amministrazione senza dover ricostruire il ragionamento a memoria.

La classificazione è nel documento PDF consegnabile. Il ragionamento è nel documento PDF consegnabile. La prova di come abbiamo effettuato ogni valutazione è nel documento PDF consegnabile. È per questo che paghi 997 euro. Rimborso garantito se il tuo SaaS non è conforme entro il 2 agosto 2026.

Puoi anche eseguire la stessa classificazione autonomamente con lo script classify.py nel nostro repository open-source. Gratuito, con licenza MIT, risponde a cinque domande e restituisce la categoria di rischio. Usalo per un triage preliminare, poi decidi se vuoi che conduciamo noi l'audit formale.

Qualunque percorso tu scelga: esegui il passaggio di classificazione prima di qualsiasi altra cosa. Cambia tutto ciò che viene dopo.

Last updated: 2026-06-04