L’idea che la tecnologia sia una forza neutrale e inarrestabile, che opera indipendentemente dai contesti sociali, economici e culturali, è un mito radicato nel nostro immaginario collettivo. Tuttavia, come dimostra Diletta Huyskes nel suo libro Tecnologia della rivoluzione. Progresso e battaglie sociali dal microonde all’intelligenza artificiale (Il Saggiatore, 2024), questo mito è ben lontano dalla verità. La tecnologia non è mai stata neutrale e spesso amplifica le ingiustizie esistenti.
Un esempio significativo che viene raccontato nel libro è il caso di ProKid+, l’algoritmo di polizia predittiva impiegato nei Paesi Bassi nel 2015, che ha condannato preventivamente un adolescente, Omar (nome fittizio), a un futuro da criminale. Reddito basso, background migratorio e un’età inferiore ai diciotto anni, sono solo alcune delle caratteristiche utilizzate dai sistemi di intelligenza artificiale per valutare il rischio di migliaia di persone ogni giorno. Il progetto, noto come Top400, inizialmente pensato come una lista di adolescenti precedentemente condannati per almeno un reato, è stato successivamente ampliato includendo anche bambini e ragazzi che, pur non avendo ancora avuto problemi legali, erano considerati dall’algoritmo a rischio di esserlo presto.
Una tecnologia a sfavore delle minoranze
Questo algoritmo, che avrebbe dovuto rappresentare un approccio innovativo alla prevenzione del crimine, non ha fatto altro che reiterare stereotipi e pregiudizi preesistenti, privando i soggetti come Omar di qualsiasi possibilità, riscatto ed emancipazione e lasciandoli intrappolati in un circolo di sospetti e discriminazioni: “Questa sentenza è il risultato di una raccomandazione proveniente da un modello matematico che prometteva il rilevamento della criminalità utilizzando principalmente metodologie di apprendimento automatico, un sottoinsieme dell’intelligenza artificiale che utilizza modelli statistici e algoritmi per analizzare e fare previsioni basate sui dati”.
La pretesa di prevedere il crimine attraverso l’analisi dei dati ignora il fatto che tali modelli sono costruiti su basi che riflettono le disuguaglianze sociali, contribuendo a perpetuarle piuttosto che risolverle. Non a caso Huyskes cita Andrew Feenberg che nel suo testo, Transforming Technology, asserisce che la progettazione della tecnologia è una decisione ontologica ricca di conseguenze politiche. Huyskes ci guida attraverso una riflessione critica, evidenziando come ogni nuova tecnologia sia il risultato di un preciso percorso storico e sociale. Contrariamente all’immagine romantica del genio inventore che cambia il mondo con un’illuminazione improvvisa, la realtà ci mostra come le innovazioni tecnologiche siano frutto di compromessi, conflitti e distribuzioni ineguali di potere.
L’idea di un progresso lineare e inevitabile si sgretola di fronte all’analisi che Huyskes offre, svelando una verità fattuale: la tecnologia è costruita, modificata e implementata per servire interessi specifici, spesso a scapito delle fasce più vulnerabili della società. Un altro esempio significativo è rappresentato dall’introduzione delle tecnologie domestiche nel ventesimo secolo. Queste invenzioni, come il forno a microonde, venivano presentate come soluzioni liberatorie per le donne, promettendo di alleviare il carico del lavoro domestico.
Fonte : Wired
