L’Unione Europea ha approvato l’AI Act, ovvero Artificial Intelligence Act, un pacchetto di regole sull’Intelligenza Artificiale che dota i 27 Stati Membri della prima legge al mondo nel settore.
Alcune settimane fa, dopo una maratona lunga 36 ore, il Parlamento e e il Consiglio europeo hanno raggiunto un accordo sulla prima legge al mondo che affronta in maniera complessiva lo sviluppo del settore dell’Intelligenza Artificiale: l’AI Act. I punti più controversi, che hanno portato al lungo dibattito, sono stati gli usi ammessi e quelli vietati dell’AI da parte delle forze di polizia, come il riconoscimento biometrico in tempo reale.
L’obiettivo dell’AI Act, cioè della normativa, è quello di garantire un equilibrio tra lo sviluppo tecnologico e la difesa dei diritti fondamentali. Il testo potrà quindi subire ulteriori modifiche in futuro, anche se l’intesa istituzionale in merito è stata raggiunta e garantisce che sarà completato entro la fine della legislatura, per poi entrare in vigore nei prossimi due anni.
Come è strutturata la normativa
L’AI Act vieta la raccolta e la conservazione dei dati relativi a convinzioni politiche, religiose e alla razza, e impedisce di raccogliere immagini in rete per il riconoscimento facciale.
La normativa è impostata sulla base di un’architettura di rischi, suddivisi in categorie: minimi, limitati, alti, inaccettabili. Fra le applicazioni con rischio inaccettabile ci sono i sistemi di categorizzazione biometrica che fanno riferimento a dati personali sensibili, compresi il riconoscimento delle emozioni sul posto di lavoro o a scuola, i sistemi di punteggio sociale, le AI utilizzate per manipolare la volontà delle persone e sfruttarne le vulnerabilità.
L’eccezione del riconoscimento biometrico da remoto
Una delle applicazioni proibite con eccezioni è il riconoscimento biometrico da remoto in tempo reale, ammesso nei casi di minaccia di terrorismo prevedibile o manifesta, nella ricerca di vittime di reati, come nei casi di sequestro, e per identificare i sospettati di alcuni crimini come il traffico di esseri umani, di stupefacenti, di armi, di materiale radioattivo, il terrorismo, gli abusi sui minori, l’omicidio, il dirottamento di aerei o navi, i reati ambientali, le rapine a mano armata, e i crimini sotto la giurisdizione della Corte penale internazionale.
In questi casi le forze dell’ordine possono usare il riconoscimento facciale. Ma deve essere autorizzato da un’autorità giudiziaria o da un ente indipendente in grado di valutarne l’impatto sui diritti fondamentali.
La polizia predittiva
L’utilizzo degli algoritmi per prevedere la probabilità con cui può essere commesso un reato è un altro tema controverso. L’accordo a cui si è giunti in UE è che si debba vietare, fatto salvo l’uso di sistemi di analisi dei dati che utilizzano informazioni anonimizzate per fornire tendenze di una possibile scena del crimine, ma non si potrà applicare a specifici individui.
La trasparenza nell’uso dei sistemi di AI
L’AI Act si occupa anche di trasparenza nell’uso “civile” dell’intelligenza artificiale: i contenuti “deepfake”, ossia che combinano immagini e video esistenti con applicazioni di AI devono essere riconoscibili tramite una filigrana digitale (watermarking). I fornitori di servizi digitali, inoltre, dovranno individuare i contenuti prodotti o modificati con Ai che circolano sulle loro reti e marcarli in automatico.
Per quanto riguarda l’intelligenza artificiale generativa, come ChatGpt, il regolamento fissa dei limiti per identificare i sistemi ad alto impatto sulla popolazione, che dovranno applicare delle regole sulla sicurezza informatica e la trasparenza dei processi di addestramento, oltre ad avere il via libera dei detentori dei diritti d’autore per poter utilizzare eventuale materiale protetto da copyright.
Chi vigilerà?
La Commissione istituirà un ufficio per l’Intelligenza Artificiale, affiancato da esperti per le AI di uso generale che forniranno consulenza scientifica su potenziali rischi, minacce o informazioni sulle nuove applicazioni.
Ogni Stato Membro dovrà inoltre nominare un’autorità locale per l’applicazione del regolamento sul territorio nazionale d’accordo con il Garante per la protezione dei dati.
© Riproduzione riservata