19 Mag ATTENTI ALL’INTELLIGENZA ARTIFICIALE (E AL SUO PADRONE)

Tratto da Amnesty International

In risposta al voto espresso dal Parlamento europeo sull’AI Act, in merito alla regolamentazione dei sistemi di intelligenza artificiale, Mher Hakobyan, consulente per la tutela dei diritti presso Amnesty International, ha dichiarato:

“Oggi il Parlamento europeo ha inviato un potente segnale sui diritti umani, votando a favore del divieto di diverse pratiche basate sull’intelligenza artificiale che, violando i diritti umani, devono essere messe al centro di questa legislazione storica”.

“Vietare i sistemi di identificazione biometrica a distanza in tempo reale rappresenta un significativo passo in avanti. Sebbene il testo non proibisca la sorveglianza retrospettiva di massa, ne limita l’utilizzo esclusivamente alle forze di polizia ed entro rigorosi confini legali. Il testo vieta inoltre diverse pratiche dannose legate all’utilizzo dell’intelligenza artificiale che discriminano le comunità emarginate. Queste pratiche includono: tecnologie in grado di “prevedere” crimini, sistemi discriminatori di graduatoria sociale che impediscono l’accesso a servizi pubblici e privati essenziali e tecnologie di riconoscimento delle emozioni, utilizzate dalle forze di polizia e alle frontiere di frontiera per “identificare” persone sospette.

Sebbene il testo approvato limiti le esportazioni dall’Unione europea dei sistemi di intelligenza artificiale considerati un rischio inaccettabile per i diritti umani, tuttavia i fornitori potrebbero eludere la legge, qualora le loro tecnologie ad alto rischio autorizzate fossero sviluppate esclusivamente per l’esportazione, rendendo così l’Unione europea potenzialmente complice di violazioni dei diritti umani al di fuori dei propri confini.

L’AI Act inoltre non vieta i sistemi di profilazione discriminatori che segnalano le persone in movimento come “rischiose” e i sistemi di previsione usati per intercettare, limitare e prevenire le migrazioni, nonostante le richieste di Amnesty International e di altri attori della società civile di proibire queste tecnologie.

È preoccupante che il testo permetta ai fornitori di sistemi di intelligenza artificiale utilizzati per forze di polizia, gestione delle migrazioni e fornitura di assistenza sociale e per altre aree ad alto rischio, di eludere l’AI Act, lasciando loro la volontà di decidere se i loro sistemi costituiscano un rischio elevato per i diritti umani. Ciò potrebbe trasformare l’AI Act in un semplice “documento orientativo” per l’uso dell’intelligenza artificiale ad alto rischio, anziché regolamentarlo in maniera efficace”.

“Amnesty International invita l’Unione europea a rispettare i suoi impegni in base al diritto internazionale. L’Unione europea deve garantire una trasparenza significativa e un accertamento delle responsabilitàsull’utilizzo e l’esportazione dei sistemi di intelligenza artificiale e sulle loro implicazioni per i diritti umani. Inoltre, è fondamentale che garantisca alle persone interessate il potere di accedere in modo equo alle tecnologie e di richiedere riparazione e compensazione in caso di danni”.

ULTERIORI INFORMAZIONI

Il 21 aprile 2021 la Commissione europea ha proposto una legge per regolamentare l’utilizzo dell’intelligenza artificiale. Il Consiglio dell’Unione europea, ha adottato la sua posizione a dicembre 2022. A giugno il Parlamento europeo punterà a definire la sua posizione, dopodiché le due istituzioni, insieme alla Commissione europea, dovranno raggiungere l’accordo su un testo condiviso.

Amnesty International, parte di una coalizione di organizzazioni della società civile guidata dalla Rete europea per i diritti digitali ha chiesto una regolamentazione dell’intelligenza artificiale dell’Unione europea che protegga e promuova i diritti umani.