Sorveglianza umana
L'Articolo 14 del Regolamento (UE) 2024/1689 (AI Act) impone che i sistemi di intelligenza artificiale ad alto rischio siano progettati e sviluppati in modo da poter essere sorvegliati efficacemente da persone fisiche durante il periodo di utilizzo, anche tramite strumenti di interfaccia uomo-macchina adeguati. La sorveglianza umana mira a prevenire o ridurre al minimo i rischi per salute, sicurezza o diritti fondamentali. Non significa «un umano clicca approva»: significa supervisione effettiva. Le persone cui è affidata la sorveglianza devono essere in grado di comprendere capacità e limiti del sistema, monitorarne il funzionamento, decidere di non usare l'output o di ribaltarlo, e — quando opportuno — sospendere il sistema. Le misure devono essere proporzionate al rischio, al livello di autonomia e al contesto d'uso. Konformia raccoglie le misure di sorveglianza umana nei moduli IFU (Art. 13) e FRIA (Art. 27): un campo strutturato che confluisce nella Sezione 3 dell'Allegato IV.
Cosa dice l'Art. 14 del Regolamento.
I sistemi di IA ad alto rischio sono progettati e sviluppati in modo da poter essere sorvegliati efficacemente da persone fisiche durante il periodo di utilizzo, anche tramite strumenti di interfaccia uomo-macchina adeguati. La sorveglianza umana mira a prevenire o ridurre al minimo i rischi per salute, sicurezza o diritti fondamentali. Le misure di sorveglianza umana sono proporzionate ai rischi, al livello di autonomia e al contesto d'uso del sistema. Le persone fisiche cui è affidata la sorveglianza devono essere in grado di comprendere le capacità e i limiti del sistema, monitorarne il funzionamento, decidere di non usare l'output o di ribaltarlo.
Sintesi divulgativa basata sulla versione italiana del Regolamento (UE) 2024/1689 pubblicata su EUR-Lex.
Cosa portarsi via, in pratica.
- Sorveglianza umana non significa «un umano clicca approva» — significa supervisione effettiva.
- Le persone in sorveglianza devono capire capacità e limiti del sistema.
- Devono poter decidere di non usare l'output o di ribaltarlo.
- È uno dei pilastri della L. 132/2025 italiana (tracciabilità delle decisioni amministrative).
Chi deve fare cosa.
- FornitoreProgettare il sistema in modo che permetta sorveglianza umana efficace.
- DeployerAffidare la sorveglianza a personale formato e dotato dell'autorità necessaria per intervenire.
Continua sulla rete degli articoli affini.
Sistema di gestione dei rischi (RMS)
Il fornitore di un sistema ad alto rischio deve istituire, attuare, documentare e mantenere un sistema di gestione dei rischi continuo lungo tutto il ciclo di vita.
Trasparenza e informazione ai deployer
I sistemi ad alto rischio devono essere accompagnati da istruzioni per l'uso che permettano al deployer di interpretare l'output del sistema e di usarlo correttamente.
Obblighi dei deployer
I deployer di sistemi ad alto rischio devono usare il sistema in conformità con le istruzioni del fornitore, garantire la supervisione umana, monitorare il funzionamento e segnalare incidenti.
Konformia copre l'Art. 14 nei tuoi processi.
Registro, classificazione, modelli documentali pre-popolati — l'Art. 14 è cablato nei workflow, non lasciato come nota a piè di pagina.