Il riconoscimento facciale fallisce ancora. Sabato 13 aprile si è disputata la finale di campionato di calcio nello stato del Sergipe, a est del Brasile. Una partita storica, come hanno scritto alcuni giornali sportivi brasiliani, perché vedeva due squadre del paese, Confiança e Sergipe, scontrarsi per il titolo a quindici anni di distanza dall’ultima volta.
A noi però interessa di più l’intervallo tra i due tempi, quando un uomo è stato scortato davanti a tutti giù dagli spalti e portato in una stanza per essere interrogato. Si chiama João Antônio, è un personal trainer di 23 anni e tifa Confiança. Come spiega in un post su X in cui ha allegato anche un video esplicito della scena, “[quello ritratto, ndr] sembra un delinquente, un fuggitivo. Ma quello portato via dalla polizia sono io”.
X content
This content can also be viewed on the site it originates from.
“Sabato – continua l’uomo nel post – durante la finale del campionato, è successo qualcosa che non avrei mai immaginato fosse possibile, che condivido ora con vergogna e indignazione cosicché non succeda più”. Secondo la ricostruzione del fan e quanto si vede da alcuni video circolati in rete, cinque agenti di polizia si sono diretti verso di lui attraversando gli spalti, mentre era intento a guardare il suo telefono. Uno di loro lo ha preso per il braccio invitandolo a non reagire e chiedendogli di mettere le mani dietro la schiena.
Dopo essere stato scortato alla fine della scalinata un poliziotto ha chiesto al tifoso il suo nome. Una volta condotto in una stanza per essere interrogato, la polizia lo ha intimato di mettere prima le mani sulle ginocchia mentre era seduto e poi di alzarsi e posizionarsi con le braccia al muro per una perquisizione corporale. Una volta seduto nuovamente il poliziotto avrebbe chiesto a João Antônio di riferire nuovamente il suo nome: “L’ultima volta per dire la verità” riporta il tifoso nel tweet condiviso, “perché sei stato riconosciuto dal sistema di riconoscimento facciale, che molto raramente sbaglia”.
Erroneamente identificati e arrestati senza appello
In merito alle errate identificazioni di sistemi di sorveglianza di questo tipo si potrebbero citare molti studi. Sin dal 2018 ricercatrici come Timnit Gebru e Joy Boulamwini hanno messo in guardia la comunità scientifica e la cittadinanza rispetto alle discriminazioni operate da sistemi basati su algoritmi per l’identificazione di persone, e a scopi di sicurezza. I database che i sistemi di riconoscimento facciale utilizzano per operare una corrispondenza tra la foto di un volto, estrapolata come in questo caso dalle videocamere dello stadio, e un nome e cognome (un’identità) sono inaccurati.
Soprattutto se si parla di persone non bianche e non binarie. Portano quindi a quello che in termini tecnici viene definito “falso positivo” ovvero l’associazione di un nome e cognome a un volto che non è quello giusto e, nei casi più estremi, a un arresto totalmente sbagliato. Ciò che è successo a João Antônio è esattamente questo. “Ho ripetuto il mio nome ancora una volta. Gli ho dato il mio portafoglio. Hanno guardato la mia carta d’identità, chiedendomi il mio nome e quello di mia madre. Gli ho aperto davanti la mia patente, comunicato il mio indirizzo di casa, la mia data di nascita”, scrive il tifoso nel tweet pubblicato.
Gli algoritmi forniscono solo una probabilità
L’approccio tecnosoluzionista che guida le forze dell’ordine, dotate di strumenti tecnologici avanzati e intrusivi come il riconoscimento facciale, regge in toto il discorso avvenuto tra João Antônio e i poliziotti: “Quando hanno visto il nome nel sistema e confermato che era un errore, si sono scusati dicendo che era una procedura standard e che in quel giorno un altro tifoso era stato arrestato correttamente, e mi hanno rilasciato”. Gli operatori di polizia si sono affidati alla macchina per arrestarlo, e non l’hanno rilasciato fino a che quest’ultima ha dichiarato “giusto” farlo.
Fonte : Wired
