Proposta di Regolamento sull’Intelligenza Artificiale

Scheda 1 sull'Artificial Intelligence

1.      Contesto

L'intelligenza artificiale (IA) è, nel mondo digitale, una tecnologia in rapida evoluzione, i cui strumenti e le cui  applicazioni porteranno sicuramente  una vasta opportunità  di vantaggi economici e sociali sia all’intero spettro di industrie che alle attività socio-economiche e all’ insieme delle stesse interazioni tra le persone. 

Lo sviluppo crescente e l'uso sempre più diffuso dell'intelligenza artificiale sono un’importante  fonte e fattore  di crescita economica e benessere sociale, con impatti significativi sui cambiamenti climatici, sulla sanità, sulla mobilità, sull’educazione, nonché su una grande varietà  di ambiti  differenti.

Allo stesso tempo, alcune caratteristiche dell'IA pongono rischi specifici e potenzialmente elevati per i nostri standard di sicurezza e diritti fondamentali. Infatti, l'opacità e la natura non deterministica di molti algoritmi rendono difficile l'indagine sulle relazioni causali e possono portare a risultati, decisioni o azioni imprevedibili e, in ogni caso, è necessario che sia resa trasparente la  “composizione “ degli algoritmi e sia reso noto il set di informazioni dati e varianti  utilizzati.

Di fronte a questo rapido sviluppo, l'UE deve agire, con una azione comune,  per sfruttare le opportunità offerte dall'IA.

Infatti, queste opportunità non potrebbero essere colte a livello di singolo Paese e in chiave nazionale , data la vastità della materia e la necessità di ingenti risorse.

Pertanto, solo una azione congiunta può darci l’opportunità di essere un riferimento significativo a livello globale e assicurarci una posizione rilevante sul piano dell’innovazione.

La presidente della Commissione europea, Ursula von der Leyen, ha annunciato nei suoi orientamenti politici per la Commissione 2019-2024 "Un'Unione più ambiziosa”, di voler presentare una normativa per un approccio europeo coordinato alle implicazioni umane ed etiche dell'intelligenza artificiale.

A seguito di tale annuncio, il 19 febbraio 2020 la Commissione ha pubblicato il Libro bianco sull'intelligenza artificiale con l’obiettivo di definire le diverse opzioni strategiche per conseguire il duplice obiettivo di promuovere l'adozione dell'IA e affrontare i rischi associati a determinati utilizzi di tale tecnologia.

Da notare che questo approccio, che include anche gli aspetti etici, è un approccio che solo l'Unione europea sta sviluppando e che si contraddistingue sia dall'approccio americano che da quello asiatico.

Questa specificità è senz'altro un valore aggiunto e, se sarà sviluppata in norme coerenti, costituirà un punto di confronto significativo anche per i grandi players delle altre aree del mondo.  

Successivamente, il 21 aprile 2021 la Commissione ha presentato la sua proposta orizzontale di regolamento, promuovendo norme armonizzate sull'intelligenza artificiale, nonché un piano coordinato rivisto sull'IA che propone una serie concreta di azioni congiunte affinché la Commissione e gli Stati membri promuovano la sviluppo e la diffusione dell'IA.

La proposta risponde alle richieste esplicite del Parlamento europeo e del Consiglio europeo, che hanno ripetutamente chiesto un intervento legislativo, con lo scopo di assicurare e garantire il corretto funzionamento del mercato interno per i sistemi di intelligenza artificiale.

Perché è importante il funzionamento del mercato interno? La risposta è semplice: un mercato europeo sui temi di IA frazionato in 27 "sottosistemi" nazionali sarebbe di una debolezza e di una irrilevanza enormi di fronte ai colossi che operano in questo settore. Un mercato veramente integrato a livello continentale e ben funzionante, invece,  può avere la dimensione minima per competere sulla scena globale.  

2.      Obiettivi

L'obiettivo generale e principale di AIA (Artificial Intelligence Act) è quello di migliorare la fiducia nell'IA stabilendo un quadro giuridico europeo uniforme e orizzontale per l'inserimento e l'uso dell'IA nel mercato unico, nel pieno rispetto dei valori dell'Unione, in particolare in termini di diritti fondamentali e sicurezza. La proposta infatti si focalizza, analizzandoli e affrontandoli, sui rischi dell’IA con lo scopo di sviluppare un ecosistema basato sulla fiducia e caratterizzato da un quadro giuridico che garantisca un'IA affidabile.

Come è noto, esiste già un solido quadro giuridico a tutela della sicurezza e dei diritti fondamentali in vigore a livello dell'UE e degli Stati membri. 

Tuttavia, la legislazione esistente, pur molto articolata e dettagliata, non risulta adatta ad affrontare efficacemente i rischi specifici dell'IA, essendo nata e sviluppata in un contesto precedente a queste evoluzioni digitali.

Pertanto, la proposta giuridica in esame mira a colmare questo vuoto e a stabilire un quadro normativo orizzontale sull'IA, che sia effettivamente applicabile in diversi settori.

L'impresa è ardua e occorrono norme chiare ma nello stesso tempo flessibili, che siano favorevoli all'innovazione, pronte a recepire i cambiamenti ed essere, insomma, "a prova di futuro".

Il quadro giuridico proposto segue un approccio basato sul rischio e determina specifici requisiti solo quando un sistema di IA potrebbe comportare rischi significativi per i diritti fondamentali e per la sicurezza delle cittadine e dei cittadini. A tale proposito, la proposta distingue tra le seguenti quattro categorie di rischi:

1.      rischio inaccettabile;

2.      rischio elevato;

3.      rischi specifici per la trasparenza e;

4.       rischio nullo/minimo, laddove non sia necessaria una regolamentazione specifica.

Gli obiettivi specifici della proposta sono:

• assicurare che i sistemi di IA immessi sul mercato dell'Unione e utilizzati siano sicuri e rispettino la normativa vigente in materia di diritti fondamentali e di valori dell'Unione;
• assicurare la certezza del diritto per promuovere e facilitare gli investimenti e l'innovazione nell'intelligenza artificiale;
• migliorare la governance e l'applicazione effettiva della normativa esistente in materia di diritti fondamentali e requisiti di sicurezza applicabili ai sistemi di IA;
• facilitare la crescita e lo sviluppo di un mercato unico per applicazioni di IA lecite, sicure e affidabili nonché́ prevenire e correggere la frammentazione del mercato.

3.      Sintesi del contenuto

La proposta è composta da dodici titoli e nove allegati. Vediamo insieme, sinteticamente, le tematiche affrontate nei diversi titoli:

Il titolo I identifica l’oggetto del regolamento e le definizioni utilizzate in tutto l’atto.

Il titolo II stabilisce un elenco di pratiche di IA vietate. L'elenco delle pratiche vietate di cui al titolo II comprende tutti i sistemi di IA il cui uso è considerato inaccettabile in quanto contrario ai valori dell'Unione, ad esempio perché́ viola i diritti fondamentali. La proposta vieta altresì̀ l'attribuzione di un punteggio sociale basato sull'IA per finalità̀ generali da parte di autorità̀ pubbliche. È infine vietato anche il ricorso a sistemi di identificazione biometrica remota "in tempo reale" in spazi accessibili al pubblico a fini di attività̀ di contrasto, fatta salva l'applicazione di talune eccezioni limitate.

Il titolo III contiene regole specifiche per i sistemi di IA che creano un rischio alto per la salute e la sicurezza o per i diritti fondamentali delle persone fisiche. Tali sistemi di IA ad alto rischio sono consentiti sul mercato europeo subordinatamente al rispetto di determinati requisiti obbligatori e ad una valutazione della conformità̀ ex ante. Inoltre, la classificazione come ad alto rischio non dipende solo dalla funzione svolta dal sistema di IA, ma anche dalle finalità̀ e modalità̀ specifiche di utilizzo di tale sistema.

Il capo 1 del titolo III fissa le regole di classificazione e individua due categorie principali di sistemi di IA ad alto rischio:

• i sistemi di IA destinati ad essere utilizzati come componenti di sicurezza di prodotti soggetti a valutazione della conformità̀ ex ante da parte di terzi;
• altri sistemi di IA indipendenti che presentano implicazioni principalmente in relazione ai diritti fondamentali esplicitamente elencati nell'allegato III, riguardante proprio i sistemi di IA ad alto rischio.

Il titolo IV si concentra su determinati sistemi di IA al fine di tenere conto dei rischi specifici di manipolazione che essi comportano. Gli obblighi di trasparenza si applicheranno ai sistemi che: i) interagiscono con gli esseri umani; ii) sono utilizzati per rilevare emozioni o stabilire un'associazione con categorie (sociali) sulla base di dati biometrici; oppure iii) generano o manipolano contenuti (i cosiddetti "deep fake").

Il titolo V contribuisce all'obiettivo di creare un quadro giuridico favorevole all'innovazione, adeguato alle esigenze future e resiliente alle perturbazioni. Di conseguenza incoraggia le autorità̀ nazionali competenti a creare spazi di sperimentazione normativa e definisce un quadro di base in termini di governance, controllo e responsabilità̀.

Il titolo VI istituisce i sistemi di governance a livello di Unione e a livello nazionale. A livello di Unione, la proposta istituisce un comitato europeo per l'intelligenza artificiale (il "comitato"), costituito da rappresentanti degli Stati membri e della Commissione. Tale comitato faciliterà̀ l'attuazione agevole, efficace e armonizzata del regolamento che stiamo illustrando.

Il titolo VII mira a facilitare il lavoro di monitoraggio della Commissione e delle autorità̀ nazionali attraverso la creazione di una banca dati a livello UE per sistemi di IA ad alto rischio indipendenti che presentano principalmente implicazioni in relazione ai diritti fondamentali.

Il titolo VIII stabilisce gli obblighi in materia di monitoraggio e segnalazione per i fornitori di sistemi di IA per quanto riguarda il monitoraggio successivo all'immissione sul mercato e la segnalazione di incidenti e malfunzionamenti correlati all'IA nonché́ le indagini in merito.

Il titolo IX istituisce un quadro per la creazione di codici di condotta che mira a incoraggiare i fornitori di sistemi di IA non ad alto rischio ad applicare volontariamente i requisiti obbligatori previsti per i sistemi di IA ad alto rischio.

Le disposizioni finali del regolamento sono contenute nei titoli X, XI e XII.

Il titolo X sottolinea l'obbligo per tutte le parti di rispettare la riservatezza delle informazioni e dei dati e stabilisce le regole per lo scambio delle informazioni ottenute durante l'attuazione del regolamento.

Il titolo XI stabilisce le regole per l'esercizio della delega e delle competenze di esecuzione ed il titolo XII contiene l'obbligo per la Commissione di valutare periodicamente la necessità di un aggiornamento dell'allegato III sui sistemi di IA ad alto rischio e di preparare relazioni periodiche di valutazione e riesame del regolamento.

4.      Stato di avanzamento: a che punto siamo in UE?

La proposta è ora al vaglio dei "colegislatori", cioè del Parlamento europeo e del Consiglio europeo (composto dagli Stati membri dell'UE).

Con l'occasione è bene ricordare come avviene il processo legislativo in Europa.

La Commissione europea è l'unico organismo ad avere il potere di "iniziativa legislativa", quindi la proposta nasce sempre dalla Commissione europea e viene poi inviata ai due colegislatori che, in contemporanea, iniziano l'esame del testo. 

Si tratta quindi di un processo che funziona "in parallelo" e alla fine deve far trovare un accordo completo sul testo, arrivando a quella che viene chiamata la "posizione comune". 

Queste sono le tappe e le fasi del procedimento:

• la Commissione presenta la proposta
• il Parlamento esamina e approva il suo testo in "prima lettura" e dà mandato al Relatore di quel provvedimento di avviare i negoziati del cosiddetto Trilogo
• il negoziato avviene, attraverso molti incontri, tra il Parlamento, rappresentato dal Relatore e dagli Shadow, cioè un rappresentante per gruppo politico, il consiglio, rappresentato dal Presidente di turno, e la Commissione, che assiste e coadiuva i due colegislatori
• il testo concordato dai membri del Trilogo, cioè coloro che hanno condotto il negoziato, viene così definito e costituisce la posizione comune
• Il Parlamento approva la posizione comune e a quel punto l'atto, che sia Direttiva o Regolamento, è definitivo. 

Aggiungo che, se si tratta di Direttiva, questa deve essere recepita dagli Stati membri entro due anni, se si tratta di Regolamento, questo entra immediatamente in vigore. 

Nel caso specifico di questo regolamento, per quanto riguarda il Parlamento, siamo ai primi passi: il fascicolo è stato provvisoriamente assegnato alla commissione IMCO, cioè la commissione che si occupa di Mercato interno e protezione dei consumatori.

Altre commissioni rivendicano, però, competenza sulla legge sull'IA. Si è in attesa della risoluzione del conflitto di competenze.

 Per quanto riguarda il Consiglio, sono iniziati i negoziati tra gli Stati membri per trovare una posizione comune.

La presidenza portoghese ha diffuso una relazione sullo stato di avanzamento nel giugno 2021. Sebbene gli Stati membri sostengano in generale gli obiettivi generali della proposta, sorgono interrogativi in merito alla definizione del sistema di IA, all'ambito di applicazione del progetto di regolamento e ai requisiti per i sistemi di IA ad alto rischio. I ministri delle telecomunicazioni hanno tenuto il loro primo dibattito politico approfondito sulla proposta di legge sull'IA nell'ottobre 2021. Hanno accolto con favore l'approccio basato sul rischio della proposta, ma hanno indicato che molte questioni richiedono ulteriori discussioni, in particolare per quanto riguarda l'ambito di applicazione del regolamento, gli aspetti dell'applicazione e le definizioni dei termini chiave.

 La presidenza attuale, che è quella slovena, mira a presentare una proposta di compromesso a breve.

In conclusione, vi è ancora molto tempo e questo tempo servirà per approfondire il dibattito ed affrontare tutte le questioni che risultano ancora in discussione.