Un sistema di intelligenza artificiale è ad alto rischio ai sensi del Regolamento (UE) 2024/1689 (AI Act) quando rientra in una delle categorie dell’Allegato III oppure funge da componente di sicurezza di un prodotto già regolato (art. 6). Se il tuo sistema seleziona candidati, valuta il merito creditizio, gestisce l’accesso a servizi essenziali o elabora dati biometrici, con ogni probabilità sei nella fascia più regolata dell’AI Act: obblighi di gestione del rischio, documentazione tecnica, sorveglianza umana e valutazione di conformità prima dell’immissione sul mercato. Questa guida spiega quali sistemi sono ad alto rischio, cosa devono fare provider e deployer e come questi obblighi si intrecciano con il GDPR.
Key Takeaways
- Un sistema è ad alto rischio se rientra nell’Allegato III dell’AI Act o è componente di sicurezza di un prodotto disciplinato dalla normativa UE di armonizzazione (art. 6).
- Gli obblighi più pesanti gravano sul fornitore (provider): sistema di gestione del rischio, dati di qualità, documentazione tecnica, trasparenza, sorveglianza umana, robustezza e accuratezza (artt. 9-15).
- Il deployer che usa il sistema per finalità che incidono su diritti fondamentali può dover svolgere una FRIA (valutazione d’impatto sui diritti fondamentali, art. 27).
- Quasi sempre un sistema ad alto rischio che tratta dati personali fa scattare anche una DPIA ex art. 35 GDPR: le due valutazioni vanno coordinate.
- Le regole sui sistemi ad alto rischio si applicano progressivamente tra agosto 2026 e agosto 2027.
Quando un sistema è ad alto rischio
L’AI Act adotta un approccio basato sul rischio con quattro livelli: pratiche vietate (art. 5), alto rischio (artt. 6-27), rischio limitato con obblighi di trasparenza (art. 50), rischio minimo. La fascia “alto rischio” è quella dove si concentrano gli adempimenti sostanziali.
L’art. 6 individua due strade. La prima: il sistema di IA è componente di sicurezza di un prodotto (o è esso stesso un prodotto) coperto dalla normativa di armonizzazione elencata nell’Allegato I — dispositivi medici, macchine, ascensori, giocattoli — e deve essere sottoposto a valutazione di conformità da parte di terzi. La seconda: il sistema rientra in uno degli usi elencati nell’Allegato III.
Esiste un filtro. L’art. 6, par. 3 consente di non qualificare come ad alto rischio un sistema dell’Allegato III se non pone un rischio significativo per salute, sicurezza o diritti fondamentali (ad esempio esegue un compito procedurale ristretto). Ma la deroga non si applica mai ai sistemi che effettuano profilazione di persone fisiche.
Le categorie dell’Allegato III con esempi italiani
L’Allegato III elenca otto aree. Ecco le più rilevanti per le organizzazioni italiane, con esempi concreti.
| Area Allegato III | Esempio operativo | Chi è tipicamente coinvolto |
|---|---|---|
| Biometria | Riconoscimento facciale, categorizzazione biometrica | Sicurezza, retail, PA |
| Infrastrutture critiche | Gestione del traffico, reti idriche/energetiche | Utility, gestori |
| Istruzione | Ammissione, valutazione, proctoring d’esame | Università, scuole, enti di formazione |
| Occupazione | Screening dei CV, valutazione dei dipendenti | HR, agenzie per il lavoro |
| Servizi essenziali | Scoring del credito, valutazione per prestazioni sociali | Banche, finanziarie, PA |
| Attività di contrasto | Valutazione di attendibilità delle prove | Forze dell’ordine |
| Migrazione e frontiere | Esame delle domande di asilo/visto | Amministrazioni |
| Giustizia e democrazia | Supporto all’interpretazione del diritto | Uffici giudiziari |
Un software che filtra automaticamente le candidature in un processo di gestione dei dati delle risorse umane, o un modello che assegna un punteggio di solvibilità a un cliente di una banca, sono esempi tipici di alto rischio. Lo stesso vale per la videosorveglianza con analisi biometrica, su cui il Garante è tradizionalmente severo.
Obblighi del provider (artt. 9-15)
Il fornitore che immette sul mercato un sistema ad alto rischio deve, prima della commercializzazione:
- Sistema di gestione del rischio (art. 9): processo iterativo e documentato per tutto il ciclo di vita.
- Governance dei dati (art. 10): set di addestramento, validazione e test pertinenti, rappresentativi e — nella misura possibile — privi di errori.
- Documentazione tecnica (art. 11) e registrazioni automatiche degli eventi (art. 12).
- Trasparenza e istruzioni per l’uso verso il deployer (art. 13).
- Sorveglianza umana effettiva (art. 14): il sistema deve poter essere supervisionato da persone.
- Accuratezza, robustezza e cibersicurezza (art. 15).
A questi si aggiungono la valutazione di conformità, la marcatura CE, la registrazione nella banca dati UE e un sistema di gestione della qualità. La distinzione provider/deployer conta: se un’azienda modifica in modo sostanziale un sistema o lo immette con il proprio marchio, può diventare essa stessa provider.
Obblighi del deployer e la FRIA
Il deployer (utilizzatore professionale) ha obblighi più leggeri ma non trascurabili: usare il sistema secondo le istruzioni, garantire la sorveglianza umana, monitorare il funzionamento, conservare i log. Alcuni deployer — enti pubblici e soggetti che erogano servizi pubblici essenziali, oltre a chi usa sistemi per scoring del credito o assicurazioni vita/salute — devono svolgere una valutazione d’impatto sui diritti fondamentali (FRIA) ai sensi dell’art. 27 prima del primo utilizzo.
La FRIA non sostituisce la valutazione d’impatto sulla protezione dei dati (DPIA) richiesta dall’art. 35 GDPR: le due si sovrappongono ma hanno oggetto diverso. Un sistema ad alto rischio che tratta dati personali su larga scala fa quasi sempre scattare entrambe. Progettare il sistema secondo la logica della privacy by design riduce il lavoro su entrambi i fronti.
Le scadenze e l’enforcement in Italia
Il calendario è scaglionato. Le pratiche vietate si applicano da febbraio 2025; gli obblighi sui modelli GPAI da agosto 2025; gli obblighi sui sistemi ad alto rischio dell’Allegato III da agosto 2026, mentre quelli legati ai prodotti dell’Allegato I hanno un termine più lungo, ad agosto 2027.
In Italia la Legge 132/2025 ha designato AgID e ACN come autorità nazionali competenti sull’IA, mentre il Garante mantiene la competenza sui profili di protezione dei dati. Che le due sfere convivano lo dimostra l’attività del Garante: la sanzione da 15 milioni di euro a OpenAI (provvedimento di dicembre 2024) e quella da 5 milioni a Replika/Luka Inc. (provvedimento del 19 maggio 2025) colpiscono proprio l’assenza di base giuridica e i difetti di trasparenza dei sistemi di IA generativa. Il quadro completo delle deadline è nella nostra guida all’AI Act in Italia; per l’operatività quotidiana esistono strumenti dedicati come il software di conformità all’AI Act.
FAQ
Come faccio a sapere se il mio sistema è ad alto rischio?
Verifica prima se sei componente di sicurezza di un prodotto dell’Allegato I; poi controlla gli otto usi dell’Allegato III. Se rientri in una categoria ma svolgi solo un compito procedurale ristretto e non fai profilazione, puoi valutare la deroga dell’art. 6, par. 3 — documentando la valutazione. In caso di dubbio, tratta il sistema come ad alto rischio.
Qual è la differenza tra provider e deployer?
Il provider sviluppa e immette sul mercato il sistema, sopportando gli obblighi degli artt. 9-15. Il deployer lo utilizza a fini professionali con obblighi di uso corretto, sorveglianza e — per alcuni soggetti — FRIA. Chi modifica sostanzialmente un sistema o lo rimarchia diventa provider.
La FRIA sostituisce la DPIA del GDPR?
No. La FRIA (art. 27 AI Act) valuta l’impatto sui diritti fondamentali dell’uso del sistema; la DPIA (art. 35 GDPR) valuta i rischi per la protezione dei dati. Vanno svolte in coordinamento, riutilizzando le analisi comuni, ma restano documenti distinti.
Quando scattano gli obblighi sui sistemi ad alto rischio?
Gli obblighi per i sistemi dell’Allegato III si applicano da agosto 2026; quelli legati ai prodotti regolati dell’Allegato I da agosto 2027. Le pratiche vietate erano già in vigore da febbraio 2025.
Vedi anche: un modello di DPIA fac-simile, spesso necessaria per questi sistemi, e la guida all’AI Act in Italia.
Fonti ufficiali: il testo del Regolamento (UE) 2024/1689 su EUR-Lex, le linee guida del Garante e gli orientamenti dello European Data Protection Board.