# Il dilemma dell'UE sull'IA: innovazione o eccesso di regolamentazione?

> L'articolo di SwissGRC® spiega l'accordo di Germania, Francia e Italia sull'AI Act e il dilemma tra innovazione e regolamentazione nell'UE. Si rivolge a chi deve valutare l'impatto della norma su aziende, protezione dei dati e governance.

- URL: https://swissgrc.com/it/dilemma-ue-intelligenza-artificiale-regolamentazione/
- Editore: SwissGRC®
- Pubblicato: 2024-01-25
- Ultimo aggiornamento: 2024-01-25

## Punti chiave

- Nel novembre 2023 Germania, Francia e Italia hanno raggiunto un accordo sulla regolamentazione dell'IA che prevede l'autoregolamentazione obbligatoria per i Foundation Model.
- Il 9 dicembre 2023 i rappresentanti del Parlamento europeo e del Consiglio hanno raggiunto un accordo sull'AI Act, che deve ancora essere adottato formalmente da entrambe le istituzioni.
- Gli sviluppatori di Foundation Model devono definire «model card» con informazioni su funzionamento, capacità e limiti dei modelli di IA.
- L'AI Act classifica le applicazioni di IA in categorie di rischio: più alto è il rischio, maggiori sono i requisiti normativi.
- Secondo l'articolo, più della metà delle aziende ha visto fallire nuovi progetti innovativi a causa del GDPR, e in tre aziende su dieci è fallita l'implementazione di tecnologie come l'IA.
- Amnesty International indica rischi per i diritti fondamentali nella sorveglianza di massa, nell'attività di polizia, nella distribuzione delle prestazioni sociali e alle frontiere.

**Nel novembre 2023 Germania, Francia e Italia, tre attori principali dell’Unione Europea, hanno raggiunto un accordo storico sulla regolamentazione dell’intelligenza artificiale (IA). Come riportato da [Euronews](https://www.euronews.com/next/2023/11/19/eu-ai-act-germany-france-and-italy-reach-agreement-on-the-future-of-ai-regulation-in-europ), questo accordo rappresenta un passo importante nel definire il futuro dell’IA nell’UE. Non solo costituisce uno sforzo congiunto delle principali economie dell’UE, ma rappresenta anche un passo strategico verso la conciliazione tra il rapido sviluppo delle tecnologie di IA e il necessario quadro normativo.**

Questo consenso è particolarmente significativo nel contesto degli sforzi generali dell’UE volti a creare un approccio unitario ed efficace alla governance dell’IA, evidenziando l’impegno dell’Unione a guidare il dibattito globale in questo ambito cruciale e in costante evoluzione. Il 9 dicembre 2023, i rappresentanti del Parlamento europeo e del Consiglio hanno raggiunto un accordo sull’AI Act dopo diversi giorni di trattative. Tuttavia, il testo deve ancora essere formalmente adottato sia dal Parlamento sia dal Consiglio prima di entrare in vigore, presumibilmente all’inizio del 2024. Francia, Germania e Italia figuravano tra i grandi Stati membri inizialmente contrari al regolamento, con il rischio di ostacolare l’approvazione del provvedimento in Parlamento europeo.

##### La reputazione dell’UE come potenza regolatrice

Nel contesto più ampio della regolamentazione dell’IA, l’Unione europea ha assunto un ruolo guida, muovendosi nella complessa relazione tra promozione dell’innovazione tecnologica e garanzia di una governance etica. La posizione proattiva dell’UE sulla regolamentazione dell’IA riflette il suo impegno a conciliare il progresso tecnologico con la tutela dei valori sociali. Questo approccio ha conferito all’UE un ruolo di primo piano nella regolamentazione, pur non essendo esente da critiche riguardo alla sua efficacia e inclusività.

Germania, Francia e Italia, in qualità di attori chiave dell’UE, hanno contribuito in modo significativo a definire la politica in materia di IA. Il loro [accordo sulla regolamentazione dell’IA](https://politicstoday.org/europe-germany-france-italy-ai-regulation/), che prevede l’autoregolamentazione obbligatoria per i Foundation Model, ha rappresentato un momento decisivo nella governance dell’IA dell’UE e ha influenzato in modo significativo la definizione dell’AI Act. L’accordo trinazionale riflette un approccio unitario volto a regolamentare le applicazioni dell’IA e non la tecnologia in sé, sottolineando l’importanza delle model card ai fini della trasparenza e della responsabilità. La loro posizione di cooperazione indica inoltre una tendenza più ampia dell’UE a integrare le diverse prospettive nazionali in un quadro normativo coerente. Tuttavia, questa influenza delle principali economie sul processo decisionale dell’UE ha suscitato [dibattiti](https://www.theverge.com/2023/6/30/23779611/eu-ai-act-open-letter-artificial-intelligence-regulation-renault-siemens). I critici sostengono che questi Paesi potrebbero privilegiare i propri interessi o quelli delle grandi aziende tecnologiche, a scapito delle esigenze collettive dell’UE. Questa situazione mette in luce la sfida che l’UE deve affrontare per mantenere un approccio unitario alla governance dell’IA, tenendo conto al contempo dei diversi interessi dei suoi Stati membri.

##### Il concetto di autoregolamentazione obbligatoria

L’AI Act sulla regolamentazione dell’IA nell’UE rappresenta un cambiamento significativo nella governance dell’IA, in particolare per quanto riguarda l’autoregolamentazione obbligatoria dei Foundation Model. Questi modelli, elemento centrale nella generazione dei diversi risultati dell’IA, sono ora soggetti a una regolamentazione incentrata più sulla loro applicazione che sulla tecnologia in sé. Si tratta di un passo fondamentale verso una maggiore trasparenza e responsabilità nello sviluppo dell’IA.

Il [concetto di autoregolamentazione obbligatoria](https://www.bakermckenzie.com/en/insight/publications/2023/11/ai-regulation-agreement-germany-france-italy#:~:text=They%20propose%20mandatory%20self%2Dregulation,security%20of%20smaller%20EU%20companies.) introduce un approccio sfumato alla governance. Richiedendo agli sviluppatori di Foundation Model di definire delle «model card», l’AI Act impone un livello di autovalutazione e divulgazione finora assente. Queste model card dovrebbero fornire informazioni complete sul funzionamento, sulle capacità e sui limiti dei modelli di IA. Questa misura mira a rendere le tecnologie di IA più comprensibili per le autorità di regolamentazione e per il pubblico, favorendo decisioni più informate sulla loro implementazione e sul loro utilizzo.

Tuttavia, questo approccio normativo solleva anche interrogativi sulla sua efficacia e sull’onere potenziale a carico degli sviluppatori di IA. La richiesta di una divulgazione dettagliata potrebbe essere percepita come un ulteriore ostacolo burocratico, che rischia in particolare di frenare l’innovazione per le piccole imprese con risorse limitate. Sebbene il regolamento cerchi di affrontare questo aspetto estendendo l’autoregolamentazione obbligatoria a tutti i fornitori di IA, indipendentemente dalle loro dimensioni, il suo impatto pratico resta da verificare.
Inoltre, l’equilibrio tra regolamentazione e innovazione è una questione delicata. L’UE è tradizionalmente considerata un leader normativo, ma esiste il rischio che regolamenti troppo rigidi possano soffocare l’[innovazione in un settore dell’IA in rapida evoluzione](https://www.computerworld.com/article/3701510/businesses-and-tech-firms-criticize-proposed-eu-ai-act.html).

##### IA e società: comprendere il dilemma etico dell’UE

Amnesty International ha più volte evidenziato i rischi per i diritti fondamentali posti dalle tecnologie di IA nel processo di regolamentazione dell’UE. Agnes Callamard, Segretaria generale di Amnesty International, ha sottolineato che la [contrapposizione tra innovazione e regolamentazione è fuorviante](https://www.amnesty.org/en/latest/news/2023/11/eu-france-germany-and-italy-risk-unravelling-landmark-ai-act-negotiations/) e viene spesso utilizzata dalle aziende tecnologiche per evitare responsabilità rigorose. L’organizzazione sottolinea i rischi legati all’uso dell’IA nella sorveglianza di massa, nell’attività di polizia, nella distribuzione delle prestazioni sociali e alle frontiere, ambiti in cui le tecnologie di IA possono amplificare la discriminazione e le violazioni dei diritti umani. I gruppi più vulnerabili, come migranti, rifugiati e richiedenti asilo, sono i più esposti a tali rischi.

L’approccio normativo dell’UE si trova quindi di fronte a un dilemma: promuovere l’innovazione garantendo al contempo che i sistemi di IA, in particolare quelli utilizzati in ambiti critici come la sicurezza pubblica e il welfare, rispettino rigorose misure di trasparenza e responsabilità. La sfida consiste nel creare un quadro giuridico solido che tenga conto sia delle considerazioni etiche sia della natura dinamica dei progressi dell’IA.

##### IA e protezione dei dati

L’AI Act dell’UE, con il suo approccio basato sul rischio, segue un percorso già noto nell’ambito della protezione dei dati e del regolamento generale sulla protezione dei dati (GDPR): le applicazioni di IA sono classificate in diverse categorie di rischio con livelli variabili. Più alto è il rischio, maggiori sono i requisiti normativi. L’AI Act è quindi considerato un complemento al GDPR per le questioni specifiche legate all’IA. Va tuttavia osservato che più della metà delle aziende ha visto fallire nuovi progetti innovativi a causa del GDPR, sia per i requisiti diretti sia per le incertezze nell’interpretazione del regolamento. [In tre aziende su dieci](https://www.bitkom.org/Presse/Presseinformation/Jedes-2-Unternehmen-verzichtet-aus-Datenschutzgruenden-auf-Innovationen), l’implementazione di nuove tecnologie come l’IA è fallita a causa delle conseguenze del GDPR.

Sebbene l’utilizzo dell’IA non sollevi questioni del tutto nuove in materia di protezione dei dati, l’impegno richiesto alle aziende resta elevato o è destinato ad aumentare. Ciò è dovuto agli estesi obblighi di informazione e trasparenza, alla necessità di garantire i diritti degli interessati e all’adozione delle misure tecniche e organizzative necessarie.

In questo scenario in evoluzione, l’importanza della [Governance, Risk e Compliance (GRC)](https://swissgrc.com/it) diventa sempre più rilevante. Strategie GRC efficaci non sono solo essenziali per gestire queste normative complesse, ma sono anche fondamentali per consentire alle aziende di sfruttare le opportunità offerte dall’IA in modo responsabile ed etico. Se da un lato l’AI Act mira a mitigare i rischi legati all’IA, dall’altro sottolinea anche la necessità di quadri GRC solidi e adattabili. Tali quadri sono essenziali per creare un equilibrio armonioso tra la promozione dell’innovazione, il rispetto delle norme di legge e la garanzia di una governance aziendale etica in un settore delle tecnologie di IA in rapido sviluppo.

##### L’approccio dell’UE in un contesto globale

L’AI Act avrà implicazioni globali significative e potrebbe rappresentare un precedente per la governance dell’IA a livello mondiale. L’obiettivo è stabilire una regolamentazione completa dell’IA in grado di influenzare gli standard globali, sfruttando l’importante mercato dei consumatori dell’UE per innescare il cosiddetto «effetto Bruxelles». L’AI Act copre i sistemi di IA utilizzati in settori quali l’aviazione, l’automotive e la tecnologia medica. Le aziende che esportano verso l’Europa dovranno conformarsi a queste norme, favorendo un’adozione più ampia della regolamentazione dell’UE, l’effetto Bruxelles appunto. Tuttavia, questa influenza potrebbe essere attenuata da aziende internazionali e organismi di normazione che definiscono standard corrispondenti ai requisiti specifici dell’AI Act. È più probabile che il regolamento ispiri quadri normativi analoghi in tutto il mondo. Con il continuo evolversi dell’IA, il modello dell’UE, incentrato su un rapporto equilibrato tra innovazione e regolamentazione, potrebbe fungere da riferimento per altri Paesi alle prese con la complessità della regolamentazione dell’IA. Di conseguenza, la portata dell’effetto Bruxelles e il ruolo dell’UE come leader normativo globale in materia di IA evolveranno in funzione del modo in cui altri Paesi e organismi internazionali si confronteranno con queste normative e vi risponderanno.

##### Cosa aspettarsi?

La regolamentazione dell’IA rappresenta un momento cruciale per l’Unione europea, che segna una nuova direzione nella governance dell’IA. Il suo orientamento verso l’autoregolamentazione obbligatoria e una regolamentazione basata sull’applicazione potrebbe influenzare la politica globale in materia di IA, seppur con effetti differenziati sui vari settori e sistemi di IA. Questo accordo evidenzia la necessità di un dibattito e di aggiustamenti costanti nella regolamentazione dell’IA, soprattutto alla luce del rapido sviluppo delle tecnologie di IA e del loro impatto sociale. Restano tuttavia aperte alcune preoccupazioni circa la capacità di trovare un equilibrio tra innovazione e responsabilità etica, e di garantire che le normative siano inclusive ed efficaci, senza ostacolare il progresso tecnologico. Il successo di questo approccio normativo dipenderà dalla sua attuazione e dalla capacità di armonizzare i diversi interessi in gioco, all’interno dell’UE e oltre i suoi confini. Nel peggiore dei casi, l’Europa potrebbe diventare una regione in cui un eccesso di regolamentazione ostacola l’innovazione nell’IA, creando uno scenario in cui il progresso tecnologico resta indietro rispetto ad altre potenze globali. Questa possibilità sottolinea l’urgente necessità per l’UE di affinare costantemente il proprio quadro giuridico, in modo da favorire l’innovazione tutelando al contempo i principi etici e i valori sociali.

Autori: Yahya Mohamed Mao (Swiss GRC AG), Michael Widmer (Swiss Infosec AG), gennaio 2024

## Domande frequenti

### Che cosa hanno concordato Germania, Francia e Italia sull'IA?

Nel novembre 2023 i tre Paesi hanno concordato un approccio che prevede l'autoregolamentazione obbligatoria per i Foundation Model. La regolamentazione riguarda le applicazioni dell'IA e non la tecnologia in sé.

### Che cosa sono le model card nell'AI Act?

Sono documenti che gli sviluppatori di Foundation Model devono definire. Dovrebbero fornire informazioni complete su funzionamento, capacità e limiti dei modelli di IA, per aumentare trasparenza e responsabilità.

### Qual è il rapporto tra AI Act e GDPR?

L'AI Act segue un approccio basato sul rischio, già noto dal GDPR, ed è considerato un complemento al GDPR per le questioni specifiche legate all'IA. L'impegno richiesto alle aziende in materia di protezione dei dati resta elevato o destinato ad aumentare.

### Che cos'è l'effetto Bruxelles in relazione all'AI Act?

È l'influenza sugli standard globali che l'UE punta a ottenere sfruttando il suo ampio mercato dei consumatori. Le aziende che esportano verso l'Europa dovranno conformarsi alle norme, ma l'influenza potrebbe essere attenuata da aziende internazionali e organismi di normazione.

### Perché la GRC è rilevante per l'AI Act?

Secondo l'articolo, l'AI Act sottolinea la necessità di quadri GRC solidi e adattabili. Servono per bilanciare innovazione, rispetto delle norme di legge e governance aziendale etica.