Il Parlamento Ue apre la strada alla regolamentazione dell’IA

Articolo da Netzpolitik

Questo articolo è stato tradotto automaticamente. La traduzione rende il senso dell’articolo, tuttavia consigliamo di leggere il testo originale su Netzpolitik

Il regolamento sull’IA apre la strada al riconoscimento facciale biometrico nell’UE. Offre inoltre importanti scappatoie alle autorità e alle aziende in molti altri luoghi. Il Parlamento europeo voleva proteggere meglio i diritti fondamentali e ora ha accettato il compromesso.

Con la regolamentazione sull’intelligenza artificiale l’Unione europea vuole stabilire il punto di riferimento per le future applicazioni della cosiddetta intelligenza artificiale. Il Parlamento Ue ha approvato oggi a larga maggioranza il testo della legge. Nella votazione, 523 deputati hanno votato a favore della legge e 46 contro. Avevano già negoziato il compromesso lo scorso dicembre dopo lunghe e talvolta drammatiche discussioni con gli Stati membri dell’UE. Ciò apre la strada all’entrata in vigore della legge entro la fine dell’anno.

Con il sì del Parlamento si chiude la disputa su una legge considerata una delle più importanti della legislatura. Ha occupato la Commissione, il Parlamento e il Consiglio per tre anni. La lotta per le regole finali è diventata una delle più grandi battaglie lobby mai combattute a Bruxelles. I giganti della tecnologia come Google e Microsoft hanno investito milioni per proteggere i propri interessi.

La legge intende dettare regole per chi sviluppa e utilizza tecnologie IA, siano esse aziende o autorità. Quanto più un'applicazione è rischiosa, secondo la logica, tanto più severi devono essere stabiliti i requisiti, ad esempio per la qualità dei dati, della documentazione o della valutazione dei rischi, prima dell'uso. Alcune applicazioni dovrebbero essere completamente vietate, come il social scoring.

Controversia sui modelli base

La prima bozza della commissione nell'aprile 2021 ha attirato poca attenzione. All'inizio del 2023 è scoppiato il clamore sull'intelligenza artificiale generativa e improvvisamente, insieme alle straordinarie capacità di ChatGPT e generatori di immagini come Midjourney, anche i dettagli della regolamentazione dell'intelligenza artificiale sono stati sotto i riflettori globali.

I parlamentari hanno cercato di tenere il passo con i nuovi sviluppi, anche se il lavoro sulla legge era andato troppo avanti. A tal fine si è voluto integrare la legge con norme rigorose per i cosiddetti modelli base. Si tratta di sistemi di intelligenza artificiale come il modello linguistico GPT-4 che possono essere utilizzati per un'ampia varietà di scopi.

A novembre si è svolta una controversia aperta nei colloqui del trilogo. Soprattutto i pesi massimi del Consiglio, Germania e Francia, volevano evitare che il regolamento regolamentasse anche i modelli di base. Anche start-up come Mistral in Francia o Aleph Alpha in Germania stanno lavorando su questi modelli e hanno spinto affinché i modelli base fossero esclusi.

Compromesso pigro dopo lunghe trattative

Ma non è stato solo a causa dei modelli di base che i colloqui finali del trilogo di dicembre si sono arenati. Il regolamento tocca questioni centrali sui diritti fondamentali e le libertà civili nell’UE: ad esempio, se e quando è consentita la sorveglianza biometrica, in quali ambiti della vita possono essere prese decisioni automatizzate o quante eccezioni gli Stati possono rivendicare con l’argomentazione generale di “sicurezza nazionale”.

Dopo più di tre giorni di trattative maratona, a volte più di 22 ore consecutive, prima di Natale è stato finalmente raggiunto un compromesso. Organizzazioni per i diritti civili come EDRi avevano già avvertito che la gioia per questo era prematura. L'accordo è stato approvato verbalmente; la Presidenza spagnola del Consiglio, che aveva spinto per l'accordo, doveva ancora redigere il testo finale.

Quando a febbraio sono state presentate le centinaia di pagine del testo di compromesso, è apparso chiaro quante lacune sarebbero rimaste aperte. I parlamentari coinvolti nei negoziati hanno poi affermato di aver difficilmente riconosciuto l'accordo di trilogo presumibilmente raggiunto quando poi è stato loro presentato. "Siamo stati derubati", hanno detto persone vicine alla delegazione negoziale.

Nessun divieto al monitoraggio biometrico e alla macchina della verità

Soprattutto nella normativa sulla sorveglianza biometrica non è rimasto quasi nulla delle forti richieste del Parlamento. Il regolamento sull’IA non impone alcun divieto e nemmeno restrizioni particolarmente severe all’uso della sorveglianza biometrica.

In futuro gli stati dell’UE potranno monitorare le persone e identificarle in base alle loro caratteristiche fisiche per molte ragioni, ad esempio con l’aiuto di telecamere pubbliche. Ciò è consentito anche in tempo reale e anche se vi è solo il presupposto che possa accadere qualcosa di brutto. A quanto pare gli Stati membri sono riusciti a realizzare quasi completamente la loro lista dei desideri su questo punto.

Anche le persone in fuga difficilmente possono aspettarsi alcuna protezione dalla regolamentazione dell’IA. Le poche restrizioni al riconoscimento facciale negli spazi pubblici non si applicano espressamente ai controlli alle frontiere. È ancora consentito anche l'uso di tecnologie controverse come il riconoscimento delle emozioni; in futuro le persone colpite potrebbero essere controllate con la macchina della verità ai valichi di frontiera, come ha già sperimentato l'UE in un progetto pilota. E gli obblighi di trasparenza previsti dalla legge non si applicano ai settori “applicazione della legge, migrazione, controllo delle frontiere o asilo”.

Nonostante queste concessioni, per molto tempo non è stato chiaro se la legge potesse fallire a causa della resistenza di Francia e Germania. Il malcontento ha continuato a farsi sentire da entrambi i paesi. Con l'approvazione del Consiglio all'inizio di febbraio, questo ostacolo è stato superato.

Poco dopo anche le due commissioni parlamentari per le libertà civili, la giustizia e gli affari interni (LIBE) e il mercato interno (IMCO) hanno votato a favore del compromesso con un’ampia maggioranza. Hanno preso l'iniziativa di lavorare sulla legge. La loro approvazione è stata un segnale forte del fatto che anche la maggioranza assoluta dei deputati presenti oggi in plenaria voterà a favore del compromesso.

Il fatto che il voto fosse previsto oggi e non ad aprile, come inizialmente previsto, ha già creato confusione. La ragione di ciò risiede probabilmente nei dettagli dei processi di lavoro dell’UE: i testi giuridici devono essere legalmente rivisti e tradotti nelle 24 lingue ufficiali dell’Unione. Sembra che non ci sia stato abbastanza tempo per questo, quindi i parlamentari hanno continuato a votare su un testo provvisorio. La versione finale verrà poi annunciata solo ad aprile, probabilmente senza un'altra votazione.

Quello che segue ora

Il regolamento sull’IA può quindi entrare in vigore prima delle elezioni europee dell’estate. La maggior parte delle norme entrerà in vigore dopo due anni, solo i divieti entreranno in vigore dopo sei mesi - e quindi forse già quest'anno.

Nel frattempo, le speranze per una legislazione migliore si stanno spostando verso gli Stati membri. Hai la possibilità di emanare norme più severe a livello nazionale rispetto a quelle previste dal regolamento, ad esempio per la sorveglianza biometrica. In Germania i partiti del semaforo hanno già annunciato di non volere almeno un monitoraggio in tempo reale.

Ora anche AlgorithmWatch chiede miglioramenti e sottolinea le promesse fatte dal governo federale nel suo accordo di coalizione. L’organizzazione critica inoltre il fatto che in particolare le autorità di contrasto e di migrazione non dovrebbero essere soggette alla trasparenza pubblica quando utilizzano sistemi di IA rischiosi. Soprattutto in questi settori esiste un forte squilibrio di potere e la pubblicità è un prerequisito essenziale per il controllo democratico.

I quattro deputati del Partito Pirata, alcuni deputati indipendenti e gran parte del gruppo parlamentare della Sinistra hanno votato contro la bozza. La deputata Cornelia Ernst si rammarica che il Parlamento non sia riuscito a mettere in atto gli elementi essenziali dei negoziati. Il divieto del riconoscimento facciale in tempo reale negli spazi pubblici è stato “praticamente annullato” a causa di una lunga lista di eccezioni, il riconoscimento delle emozioni e la polizia predittiva rimangono consentiti e non vi sono divieti sull’uso di sistemi di intelligenza artificiale nel contesto della migrazione e delle frontiere – un'occasione mancata.

Continua la lettura su Netzpolitik

Fonte: Netzpolitik

Autore: Chris Köver

Licenza: 
Quest'opera è distribuita con Licenza Creative Commons Attribuzione - Non commerciale - Condividi allo stesso modo 4.0 Internazionale.

Articolo tratto interamente da Netzpolitik