Seguici anche su

6 dicembre 2017

Anche i numeri hanno pregiudizi

Cathy O’Neil, l’autrice di "Armi di distruzione matematica", racconta cosa c’è che non va nella dittatura degli algoritmi e che cosa implica

Cathy O’Neil

 ► Dal numero di pagina99 dell’8 dicembre in edizione digitale

Pubblichiamo per gentile concessione dell’editore Bompiani un estratto da Armi di distruzione matematica (2017)

Da bambina, avevo l’abitudine di osservare dal finestrino le auto che si muovevano nel traffico e di studiarne i numeri di targa scomponendoli in numeri primi. Si chiama fattorizzazione, ed era il mio passatempo investigativo preferito. All’università mi iscrissi a Matematica, per poi conseguire un dottorato di ricerca con una tesi sulla teoria algebrica dei numeri. Ottenni poi una cattedra al Barnard College, il cui dipartimento di Matematica è affiliato alla Columbia University.

 

Tutto parte dalla finanza

E poi il grande cambiamento: lasciai il posto all’università per andare a lavorare come quant, ossia come analista quantitativa, presso D.E.Shaw, un hedge fund di primaria importanza. Nel lasciare il mondo accademico per la finanza, portavo la matematica dall’astrazione della teoria alla concretezza della pratica.

Le operazioni che svolgevamo sui numeri si traducevano nel rimescolamento di migliaia di miliardi di dollari da un conto all’altro. All’inizio ero elettrizzata e stupita dal fatto di lavorare in questo nuovo laboratorio che era l’economia globale, ma nell’autunno del 2008, quando mi trovavo lì da poco più di un anno, tutto precipitò.

Il tracollo chiarì senza ombra di dubbio come la matematica in cui un tempo mi rifugiavo fosse non solo legata a triplo filo con i problemi del mondo, ma in parte li alimentasse. Inoltre, grazie agli straordinari poteri che io tanto amavo, la matematica sposata alla tecnologia riusciva a moltiplicare il caos e le sventure. Se avessimo avuto le idee chiare, a quel punto avremmo fatto tutti un passo indietro per capire in che modo avessimo fatto cattivo uso della matematica e come avremmo potuto evitare una simile catastrofe in futuro.

 

Il punto di svolta

E invece, sull’onda della crisi, le nuove tecniche matematiche erano più trendy che mai, pronte a ramificarsi in ambiti sempre più vasti e a elaborare ininterrottamente petabyte di dati, gran parte dei quali raccolti setacciando i social media o i siti di e-commerce. Dati focalizzati sempre più non già sui movimenti dei mercati finanziari globali ma sugli esseri umani, cioè noi. I matematici e gli esperti di statistica si erano messi a studiare i nostri desideri, i nostri spostamenti, il nostro potere d’acquisto, a formulare previsioni sulla nostra affidabilità e a calcolare il nostro potenziale in veste di studenti, lavoratori, amanti, criminali. Era l’economia dei Big Data, e prometteva enormi guadagni. Con un programma e un computer, si potevano analizzare migliaia di curriculum o richieste di finanziamento in un paio di secondi e organizzarli in elenchi ordinati, con i candidati più promettenti in cima alla lista. Questo modo di operare non solo faceva risparmiare tempo, ma si diceva anche che fosse equo e obiettivo. Niente più individui pieni di pregiudizi a leggere carte e documenti, solo macchine impegnate a elaborare freddi numeri.

 

Numeri e pregiudizi

Attorno al 2010, la matematica era diventata una componente preponderante nelle questioni umane come mai prima di allora, e l’opinione pubblica ne era in massima parte felice. Ma sentivo che i guai erano dietro l’angolo. Le applicazioni matematiche che facevano girare l’economia dei dati si basavano su scelte di esseri umani fallibili i quali senza dubbio, in molti casi, erano animati dalle migliori intenzioni.

Ciò nonostante, molti di questi modelli avevano codificato il pregiudizio umano, l’incomprensione e l’errore sistematico nei software che controllano ogni giorno di più le nostre vite. Come fossero divinità, questi modelli matematici erano misteriosi e i loro meccanismi invisibili a tutti, tranne che ai sommi sacerdoti della materia: matematici e informatici.

I loro giudizi – anche se sbagliati o pericolosi – erano incontestabili e senza appello. E se da una parte penalizzavano i poveri e gli oppressi della nostra società, dall’altra aiutavano i ricchi ad arricchirsi sempre di più. Ho trovato un nome per questo genere di modelli negativi: li chiamo “armi di distruzione matematica”, o adm […].

 

Contro i poveri

I datori di lavoro, per esempio, ricorrono sempre più spesso al cosiddetto credit scoring, ossia le valutazioni di affidabilità creditizia, per giudicare potenziali candidati. Chi paga regolarmente le bollette – questa è l’idea di fondo – arriverà presumibilmente puntuale al lavoro e sarà incline a seguire le regole. In realtà, ci sono moltissimi individui responsabili e ottimi lavoratori che hanno la sventura di veder diminuire la loro affidabilità creditizia.

Ma l’idea che la difficoltà di accedere al credito sia correlata a un cattivo rendimento sul lavoro fa sì che le persone con un’affidabilità creditizia bassa abbiano minori probabilità di trovare lavoro. La mancanza di lavoro le spinge verso la povertà, rendendole ancora meno affidabili da un punto di vista creditizio e mettendole in una posizione sempre più svantaggiata sotto il profilo occupazionale. È una spirale discendente. E gli imprenditori non sapranno mai quante persone valide e meritevoli si sono lasciati sfuggire per aver focalizzato tutta l’attenzione sull’affidabilità creditizia dei candidati.

Nelle adm, molti assunti dannosi vengono mimetizzati dietro il velo della matematica, con il risultato che nessuno li verifica né li mette in discussione. Questo evidenzia un’altra caratteristica comune delle adm, e cioè la tendenza a penalizzare i poveri. Ciò avviene, in parte, perché sono progettate per valutare gli individui in grandi numeri. Nascono per una gestione all’ingrosso, e costano poco. Fa parte del loro fascino. I ricchi, per contro, vengono spesso considerati nella loro individualità. Un prestigioso studio legale sarà di certo più propenso di una catena di fast food o di un distretto scolastico a corto di finanziamenti a prendere in esame candidati raccomandati da qualcuno e a organizzare colloqui individuali. I privilegiati, come vedremo spesso, vengono tendenzialmente valutati da persone in carne e ossa, le masse dalle macchine.

 

«Che ci vuoi fare?»

Le armi di distruzione matematica non ascoltano, non si piegano. Sono sorde non soltanto al fascino, alle minacce e alle lusinghe, ma anche alla logica, persino quando ci sono buone ragioni per dubitare dei dati che alimentano le loro conclusioni. Certo, qualora risulti evidente che dei sistemi automatizzati sbagliano in maniera sistematica e imbarazzante, i programmatori tornano sui loro passi e ritoccano gli algoritmi. Ma nella maggior parte dei casi, i programmi emettono sentenze inflessibili, e gli esseri umani che le applicano non possono far altro che stringersi nelle spalle, quasi a dire: “Che ci vuoi fare?”.

 

Copyright © 2016 by Cathy O’Neil – 2017 Giunti Editore/Bompiani

 

[Foto in apertura di Discipula]

Altri articoli che potrebbero interessarti