Il dilemma dell’UE sull’IA: innovazione o eccesso di regolamentazione?

Nel novembre 2023, Germania, Francia e Italia, tre attori di primo piano dell’Unione europea, hanno raggiunto un accordo storico sulla regolamentazione dell’intelligenza artificiale (IA). Come riportato da Euronews, questo accordo rappresenta un passo importante nel definire il futuro dell’IA nell’UE. Non solo costituisce uno sforzo congiunto delle principali economie dell’UE, ma rappresenta anche un passo strategico verso la conciliazione tra il rapido sviluppo delle tecnologie di IA e il necessario quadro normativo.

Questo consenso è particolarmente significativo nel contesto degli sforzi generali dell’UE volti a creare un approccio unificato ed efficace alla governance dell’IA, e sottolinea l’impegno dell’Unione a guidare il dibattito globale in questo ambito critico e in costante evoluzione. Il 9 dicembre 2023, i rappresentanti del Parlamento europeo e del Consiglio hanno raggiunto un accordo sull’AI Act dopo diversi giorni di trattative. Tuttavia, il testo deve ancora essere formalmente adottato sia dal Parlamento sia dal Consiglio prima di poter entrare in vigore, previsto per l’inizio del 2024. Francia, Germania e Italia figuravano tra i principali Stati membri inizialmente contrari alla regolamentazione, mettendo potenzialmente a rischio l’approvazione del testo da parte del Parlamento europeo.

La reputazione dell’UE come potenza regolatoria

Nel contesto più ampio della regolamentazione dell’IA, l’Unione europea ha assunto un ruolo guida, gestendo la complessa interazione tra la promozione dell’innovazione tecnologica e la garanzia di una governance etica. La posizione proattiva dell’UE sulla regolamentazione dell’IA riflette il suo impegno a bilanciare il progresso tecnologico con la tutela dei valori sociali. Questo approccio ha conferito all’UE un ruolo di primo piano nella regolamentazione, non senza critiche riguardo alla sua efficacia e inclusività.

Germania, Francia e Italia, in quanto attori chiave dell’UE, hanno contribuito in modo significativo a plasmare la politica sull’IA. Il loro accordo sulla regolamentazione dell’IA, che prevede l’autoregolamentazione obbligatoria per i Foundation Model, ha rappresentato un momento decisivo nella governance dell’IA a livello europeo e ha influenzato in modo significativo la formulazione dell’AI Act. L’accordo trinazionale riflette un approccio unificato volto a regolamentare le applicazioni dell’IA, non la tecnologia in sé, sottolineando l’importanza delle model card ai fini della trasparenza e della responsabilità. La posizione cooperativa dei tre Paesi indica anche una più ampia tendenza dell’UE a integrare diverse prospettive nazionali in un quadro normativo coerente. Tuttavia, l’influenza delle principali economie sul processo decisionale dell’UE ha suscitato dibattiti. I critici sostengono che questi Paesi potrebbero privilegiare i propri interessi o quelli delle grandi aziende tecnologiche, offuscando potenzialmente le esigenze collettive dell’UE. Questa situazione evidenzia la sfida per l’UE di mantenere un approccio unitario alla governance dell’IA, tenendo conto al contempo dei diversi interessi degli Stati membri.

Il concetto di autoregolamentazione obbligatoria

L’AI Act sulla regolamentazione dell’IA nell’UE rappresenta un cambiamento significativo nella governance dell’IA, in particolare per quanto riguarda l’autoregolamentazione obbligatoria dei Foundation Model. Questi modelli, centrali per la generazione di vari risultati basati sull’IA, sono ora soggetti a una regolamentazione incentrata più sulla loro applicazione che sulla tecnologia in sé. Si tratta di un passo cruciale verso una maggiore trasparenza e responsabilità nello sviluppo dell’IA.

Il concetto di autoregolamentazione obbligatoria introduce un approccio più articolato alla governance. Richiedendo agli sviluppatori di Foundation Model di definire delle «model card», l’AI Act impone un livello di autovalutazione e divulgazione finora assente. Queste model card devono fornire informazioni complete sul funzionamento, sulle capacità e sui limiti dei modelli di IA. Questa misura mira a rendere più comprensibili le tecnologie di IA per le autorità di regolamentazione e per il pubblico, favorendo decisioni più informate sul loro impiego e utilizzo.

Tuttavia, questo approccio normativo solleva anche interrogativi sulla sua efficacia e sull’onere che potrebbe gravare sugli sviluppatori di IA. La richiesta di una divulgazione dettagliata potrebbe essere percepita come un ulteriore ostacolo burocratico, capace di frenare in particolare l’innovazione nelle piccole imprese con risorse limitate. Sebbene la normativa cerchi di ovviare a questo problema estendendo l’autoregolamentazione obbligatoria a tutti i fornitori di IA, indipendentemente dalle loro dimensioni, il suo impatto pratico resta da verificare.
Inoltre, l’equilibrio tra regolamentazione e innovazione è una questione delicata. L’UE è tradizionalmente considerata un leader normativo, ma esiste il rischio che una regolamentazione troppo rigida possa soffocare l’innovazione in un settore in rapida evoluzione come quello dell’IA.

IA e società: comprendere il dilemma etico dell’UE

Amnesty International ha più volte evidenziato i rischi per i diritti fondamentali posti dalle tecnologie di IA nel processo di regolamentazione dell’UE. Agnes Callamard, Segretaria generale di Amnesty International, ha sottolineato che la contrapposizione tra innovazione e regolamentazione è fuorviante e viene spesso utilizzata dalle aziende tecnologiche per sottrarsi a una rigorosa responsabilità. L’organizzazione evidenzia i rischi dell’IA nella sorveglianza di massa, nel controllo del territorio, nella distribuzione delle prestazioni sociali e alle frontiere, ambiti nei quali le tecnologie di IA possono amplificare la discriminazione e le violazioni dei diritti umani. I gruppi più vulnerabili, come migranti, rifugiati e richiedenti asilo, sono quelli maggiormente esposti a questi rischi.

L’approccio normativo dell’UE si trova quindi di fronte a un dilemma: da un lato mira a promuovere l’innovazione, dall’altro deve garantire che i sistemi di IA, in particolare quelli utilizzati in ambiti critici come la sicurezza pubblica e il welfare, rispettino rigorose misure di trasparenza e responsabilità. La sfida consiste nel creare un quadro giuridico solido che tenga conto sia delle considerazioni etiche sia della natura dinamica dei progressi dell’IA.

IA e protezione dei dati

L’AI Act dell’UE, con il suo approccio basato sul rischio, segue un percorso già noto nell’ambito della protezione dei dati e del Regolamento generale sulla protezione dei dati (GDPR): le applicazioni di IA sono classificate in diverse categorie di rischio, con livelli variabili di esposizione. Più alto è il rischio, più elevati sono i requisiti normativi. L’AI Act è quindi considerato un complemento al GDPR su questioni specifiche legate all’IA. Tuttavia, è utile considerare quanto segue: più della metà delle aziende ha visto fallire progetti nuovi e innovativi a causa del GDPR, sia per requisiti diretti sia per incertezze interpretative del regolamento stesso. In tre aziende su dieci, l’introduzione di nuove tecnologie come l’IA è fallita proprio a causa delle conseguenze legate al GDPR.

Sebbene l’uso dell’IA non sollevi questioni del tutto nuove in materia di protezione dei dati, l’impegno richiesto alle aziende rimane elevato o è destinato ad aumentare. Ciò è dovuto agli estesi obblighi di informazione e trasparenza, alla necessità di garantire i diritti degli interessati e all’esigenza di adottare le misure tecniche e organizzative necessarie.

In questo scenario in evoluzione, l’importanza della Governance, Risk e Compliance (GRC) diventa sempre più rilevante. Strategie GRC efficaci non sono solo essenziali per padroneggiare queste normative complesse, ma sono anche fondamentali per consentire alle aziende di sfruttare le opportunità offerte dall’IA in modo responsabile ed etico. Se da un lato l’AI Act mira a mitigare i rischi associati all’IA, dall’altro sottolinea la necessità di quadri GRC solidi e adattabili. Questi quadri sono essenziali per creare un equilibrio armonioso tra la promozione dell’innovazione, il rispetto delle disposizioni normative e la garanzia di una governance aziendale etica in un settore, quello delle tecnologie di IA, in rapida evoluzione.

L’approccio dell’UE in un contesto globale

L’AI Act avrà importanti implicazioni a livello globale e potrebbe costituire un precedente per la governance dell’IA nel mondo. L’obiettivo è stabilire una regolamentazione completa dell’IA in grado di influenzare gli standard globali, sfruttando l’importante mercato dei consumatori dell’UE per innescare il cosiddetto effetto Bruxelles. L’AI Act disciplina i sistemi di IA utilizzati in settori come l’aviazione, l’automotive e le tecnologie medicali. Le aziende che esportano verso l’Europa dovranno conformarsi a queste norme, favorendo un’adozione più ampia della regolamentazione dell’UE, ossia l’effetto Bruxelles. Tuttavia, questa influenza potrebbe essere attenuata da aziende internazionali e organismi di normazione che definiscono standard corrispondenti ai requisiti specifici dell’AI Act. È più probabile che la regolamentazione possa ispirare quadri normativi simili a livello mondiale. Con la continua evoluzione dell’IA, il modello dell’UE, incentrato su un rapporto equilibrato tra innovazione e regolamentazione, potrebbe fungere da modello di riferimento per altri Paesi alle prese con la complessità della regolamentazione dell’IA. Di conseguenza, la portata dell’effetto Bruxelles e il ruolo dell’UE come leader normativo globale nel campo dell’IA si evolveranno man mano che altri Paesi e organismi internazionali si confronteranno con queste normative e vi risponderanno.

Cosa aspettarsi?

La regolamentazione dell’IA rappresenta un momento cruciale per l’Unione europea, che segna una nuova direzione nella governance dell’IA. La sua attenzione all’autoregolamentazione obbligatoria e a una regolamentazione basata sull’applicazione potrebbe influenzare la politica globale in materia di IA, seppur con impatti differenziati sui vari settori e sistemi di IA. Questo accordo evidenzia la necessità di discussioni e adeguamenti continui nella regolamentazione dell’IA, soprattutto alla luce del rapido sviluppo delle tecnologie di IA e del loro impatto sulla società. Restano tuttavia aperte le preoccupazioni relative alla ricerca di un equilibrio tra innovazione e responsabilità etica, e alla necessità di garantire che le normative siano inclusive ed efficaci, senza ostacolare il progresso tecnologico. Il successo di questo approccio normativo dipenderà dalla sua attuazione e dalla capacità di armonizzare i diversi interessi all’interno dell’UE e oltre i suoi confini. Nel peggiore dei casi, l’Europa potrebbe diventare una regione in cui un’eccessiva regolamentazione ostacola l’innovazione nel campo dell’IA, creando uno scenario in cui il progresso tecnologico resta indietro rispetto ad altre potenze globali. Questa possibilità sottolinea l’urgente necessità per l’UE di affinare continuamente il proprio quadro giuridico, garantendo che favorisca l’innovazione tutelando al contempo gli standard etici e i valori sociali.

Autori: Yahya Mohamed Mao (Swiss GRC AG), Michael Widmer (Swiss Infosec AG), gennaio 2024