Tempo di lettura stimato: 6'
Olanda, fermare i pericolosi esperimenti di sorveglianza di massa. Nuovo rapporto di Amnesty International
Le forze di polizia olandesi devono immediatamente porre fine all’utilizzo di sistemi di algoritmi che generano una sorveglianza di massa indiscriminata e profilazione etnica, ha dichiarato Amnesty International in un rapporto che mette in luce la minaccia per i diritti umani rappresentata dalla “sorveglianza predittiva“.
Il rapporto documenta i pericoli generati dai nuovi progetti di “controllo predittivo” delle forze di polizia in Olanda. I progetti, definiti “laboratori viventi” dalla polizia olandese, utilizzano modelli matematici per valutare il rischio di perpetrazione di un reato ad opera di una determinata persona o in un determinato luogo, concentrando gli sforzi delle forze di polizia su quelle persone o quei luoghi considerati “ad alto rischio“.
Amnesty International ha esaminato un progetto di sorveglianza predittiva nella città di Roermond, chiamato “Progetto di rilevamento“. Questo esperimento di sorveglianza minaccia di rendere le persone di Roermond “cavie” della sorveglianza di massa ed è discriminatorio nei confronti delle persone di nazionalità dell’Europa orientale.
“Quello che fino a poco fa era appannaggio della fantascienza, per gli olandesi ora è realtà. Il controllo di tipo predittivo sottopone le persone a sorveglianza di massa indiscriminata, che non può trovare alcuna giustificazione“, ha dichiarato Merel Koning, del programma tecnologia e diritti umani di Amnesty International.
“Il problematico esperimento di Roermond, che profila e discrimina le persone dell’Europa dell’est, mette in luce la natura pregiudizievole, e non predittiva, dei sistemi di polizia di tipo algoritmico. Questo genere di progetti si stanno moltiplicando rapidamente in tutto il paese, mentre sono molto carenti le garanzie necessarie per affrontare le numerose minacce che pongono nei confronti dei diritti umani. Il parlamento olandese deve agire per mettere fine immediatamente al ricorso a questi sistemi sostanzialmente fallaci“, ha aggiunto Merel Koning.
Spesso, l’ideazione e lo sviluppo di sistemi di sorveglianza predittivi sono pubblicizzati per la loro “obiettività” e “neutralità“; pregiudizi e stereotipi, invece, sono integrati nei modelli e negli algoritmi. Ne derivano risultati discriminatori con punteggi di rischio maggiore per determinati gruppi.
Amnesty International chiede una valutazione obbligatoria dell’impatto sui diritti umani prima dell’uso di tecnologie di sorveglianza di tipo predittivo. Attualmente, nessuno dei sistemi in uso alle forze di polizia olandesi è stato sottoposto a una valutazione globale dei diritti umani.
Il progetto di rilevamento
La polizia dichiara che il progetto di rilevamento è studiato per prevenire e individuare reati contro il patrimonio commessi da cosiddetti “criminali non stanziali” a Roermond.
Le autorità olandesi sostengono che il sistema sia neutrale, basato su dati oggettivi relativi ai reati, ma Amnesty International documenta come il progetto di rilevamento sia discriminatorio fin nella progettazione e rifletta nel sistema di controllo pregiudizi umani consolidati. Il fatto che il progetto si concentri principalmente sulla “criminalità mobile” e che questa sia definita “il borseggio e il taccheggio commessi in particolare da persone dei paesi dell’Europa dell’est” genera una profilazione razziale automatica.
Attraverso l’utilizzo di telecamere e di altri sensori, la polizia monitora in maniera sistematica tutte le persone che si spostano in auto all’interno di Roermond e nei suoi dintorni, raccogliendo informazioni in merito a veicoli e modalità di spostamento. I dati raccolti sono poi elaborati utilizzando un modello algoritmico che calcola un “punteggio di rischio” per ciascun veicolo, che, secondo la polizia, li informa in merito alla probabilità che il guidatore e i passeggeri nella città commetteranno un reato contro il patrimonio. Uno degli indicatori utilizzati ai fini di questa valutazione è la provenienza eventuale di un veicolo dall’Europa dell’est.
Quando si identifica un veicolo come ad alto rischio, la polizia cercherà di intercettarlo e verificare i documenti d’identità di guidatore ed eventuali passeggeri. Le normative olandesi mancano delle adeguate garanzie giuridiche per evitare fermi e perquisizioni di tipo arbitrario e discriminatorio.
“I residenti di Roermond, così come coloro che si recano in città, vengono utilizzati come cavie in un esperimento per il quale non hanno prestato il consenso. Si tratta di un sistema intrinsecamente discriminatorio, progettato per tracciare un profilo etnico e puntare alle persone di nazionalità est europea“, ha commentato Merel Koning.
“Le autorità olandesi devono chiedere l’interruzione del progetto di rilevamento e di esperimenti simili, che costituiscono una chiara violazione del diritto alla privacy, del diritto alla protezione dei dati e dei principi di legalità e non-discriminazione“, ha concluso Koning.
Inoltre, Amnesty International chiede alle autorità olandesi di esaminare il numero delle persone raggiunte dal progetto di rilevamento – e altri progetti simili di sorveglianza sperimentale di tipo predittivo – e in che modo sia accaduto. È necessario che queste informazioni siano rese pubbliche e che siano intraprese delle azioni per permettere un ricorso e un risarcimento adeguati per le persone coinvolte.
