Seguici anche su

18 novembre 2016

La polizia predittiva non riduce i crimini

Nati per salvare vite ed evitare furti, i programmi di prevenzione informatica dei delitti sono stati adottati in tutti gli Stati Uniti. Uno studio ne svela l’inefficacia

PAOLO BOTTAZZINI

«Sebbene non avesse fatto nulla di male, una mattina venne arrestato». Questa è l’esperienza di Josef K., secondo la deposizione di Franz Kafka all’inizio del Processo. Ma potrebbe diventare anche la vostra, se la polizia sarà amministrata secondo i principi dei dipartimenti precrime. Qualcosa di simile è accaduto a Robert McDaniel nel 2013, in un sobborgo di Chicago, una delle città che aspira a essere riconosciuta come la best practice nel settore della polizia predittiva. Un software ha sostituito l’onniscienza del Tribunale di Kafka, capace di fiutare la colpa anche dove non è provata da alcun fatto: l’algoritmo ha avvertito nel profilo del ventiduenne incensurato l’essenza di uno Strategic Subject – in altre parole, di un fuorilegge in erba. Per questa ragione, un mattino di agosto un agente ha bussato alla sua porta per minacciarlo: «Aspettati le peggiori conseguenze se commetterai qualunque crimine. Ti teniamo d’occhio».

Gli indizi a carico di McDaniel? Abitare un quartiere in cui sono stati commessi molti omicidi, aver frequentato le scuole della zona e aver conosciuto i ragazzi che hanno studiato nelle stesse aule, essere entrato nelle piscine, nelle farmacie, nei cinema e nelle biblioteche in cui sono passati i malviventi dell’area. In circostanze di questo genere, secondo il ceto intellettuale che ha sviluppato il programma, e la classe dirigente che lo ha adottato, si deve concludere che se il soggetto non è ancora stato protagonista di qualche episodio di violenza, ben presto gli dovrà capitare.

Possiamo lasciarci arrestare per ordine del software, con la fiducia di saperci colpevoli, anche senza aver ancora maturato l’intenzione di un’impresa illecita? Se fossimo certi dell’infallibilità dell’algoritmo, accetteremmo con serenità la nostra vocazione di carcerati, ancorché sconosciuta a noi stessi. Ma uno studio pubblicato di recente dalla RAND Corporation solleva più di un ragionevole dubbio sulla questione. L’analisi non pone domande sulle implicazioni morali, ma solo sulla variazione del numero di delitti, attribuita alla strumentazione informatica.I ricercatori sollevano obiezioni sia sull’applicazione delle indicazioni del software, sia sui vantaggi che provengono dal loro uso per l’incolumità degli abitanti. La fiducia di sindaci e dipartimenti di polizia cresce, il numero di omicidi non diminuisce, ma non è ancora il momento di svelare che l’assassino è il maggiordomo.

Qualche perplessità di ordine etico circolava già quando la testimonianza di Robert McDaniel sul Chicago Tribune è stata rilanciata dalle testate di mezzo mondo. Ma non è bastato questo episodio per stimolare la riflessione critica degli amministratori americani. Decine di città hanno avviato un programma di polizia predittiva: tutti i comuni con più di centomila abitanti sono iscritti nel registro degli innovatori, in materia di sicurezza. Non solo Chicago, ma anche New York, Los Angeles, Philadelphia, Atlanta, Seattle, hanno istruito le procedure di test per l’automazione della profezia criminale. L’ex comandante delle forze di sicurezza nella Grande Mela, William Bratton, gareggia in preveggenza con il suo software, e pronostica una ristrutturazione degli organi inquirenti focalizzata sui servizi di tecnologia precrime. Lo confortano le percentuali di successo registrate nelle città in cui sono stati sviluppati i servizi pilota.

In an undated handout photo, the service handgun officer Darren Wilson used to fatally shoot Michael Brown in Ferguson, Mo. on Aug. 9, 2014. The release of grand jury evidence is rare, but prosecutor Robert McCulloch?s office did so on Nov. 24, when it was announced that Wilson would not face charges. (St. Louis County Prosecutor's Office via The New York Times) ? FOR EDITORIAL USE ONLY.

A Los Angeles, nei quartieri in cui è stato adottato il meccanismo di preveggenza, la contrazione di denunce si aggira intorno al 13%, a soli quattro mesi dall’avvio della sperimentazione; il confronto deve essere fissato con l’incremento dello 0,4% nelle zone non coinvolte nel test. Ad Atlanta la flessione si è aggirata tra l’8% e il 9% nei due settori presidiati dal calcolo digitale, contro una lieve crescita degli episodi di violenza negli altri quattro settori, esclusi dal programma. Memphis, nel Tenneessee, è un esempio di piccola città protetta dal controllo di un software di predizione: l’esperienza prosegue da quasi dieci anni, durante i quali omicidi e furti sono calati del 36%, mentre i furti di automobili sono crollati addirittura del 55%. Nei centri urbani minori, le imprese che erogano i servizi di vaticinio vantano progressi a due cifre percentuali – ed è proprio contro questo genere di stime che si schiera il report della RAND.

In realtà le famiglie di software in sperimentazione sono due. Quella più diffusa è destinata a calcolare i luoghi e i momenti in cui verranno consumate le malvagità future. La banca dati su cui opera l’algoritmo è popolata di punti geografici, di ore e di date in cui sono stati commessi i delitti. Il software agisce tracciando correlazioni statistiche e disegnando distribuzioni di probabilità, che indicano sulla mappa aree, giorni e fasce orarie, in cui l’attesa di azioni illegali è maggiore. Le previsioni permettono di razionalizzare l’organizzazione delle pattuglie, che presidiano i luoghi evidenziati dall’algoritmo, invece di seguire una assegnazione casuale del servizio di sorveglianza.

La seconda famiglia si dedica al censimento di vittime o di aggressori potenziali. L’archivio di dati in questo caso è affollato di indicatori sulle relazioni sociali – una specie di Facebook urbano, che però dedica particolare attenzione a coloro che in passato sono già incorsi in guai con la legge. L’algoritmo sviluppa una stima del rischio di nuove violenze associate a ciascun nodo della rete, e tutti coloro che superano una soglia di gravità predefinita ricevono una visita a casa da parte di un agente di polizia. Come è successo a Robert McDaniel a Chicago, e a Josef K. nella mente di Kafka.

A Memphis è stato implementato un software della prima famiglia, battezzato BlueCRUSH da Richard Janikowsky, il criminologo dell’Università locale che lo ha architettato. Ma il mercato della sicurezza preventiva è evoluto dai pionieri della sperimentazione in Tenneessee, e le amministrazioni comunali possono implementare prodotti che vantano un curriculum di applicazioni già consolidato. Il più importante è PredPol, sviluppato dalla società omonima con sede a Santa Cruz. Il fondatore, Jeff Brantingham, ha disegnato il funzionamento del software rielaborando la sua esperienza di collaborazione con il Dipartimento di Polizia di Los Angeles, e nel 2012 ne ha rilasciato la versione commerciale. Il suo antagonista principale è HunchLab, sviluppato da Azavea Corporation a partire dal 2008, sul versante opposto degli Stati Uniti, a Philadelphia. Dopo la sparatoria di Ferguson del 9 agosto 2014, il Dipartimento di Polizia di St. Louis County ha deciso di renderlo operativo nella sua giurisdizione. Infatti, mentre l’algoritmo di PredPol sembra conseguire efficacia contro i furti (e in generale contro gli assalti al patrimonio), HunchLab ha mostrato una maggiore predisposizione per la prevenzione degli omicidi e delle sparatorie.

A Josef K. sarebbe bastato leggere il giornale e conoscere il software installato nella sua città, per sapere di quale genere di crimine lo avrebbero accusato – senza doverci infliggere l’ansia della sua rincorsa (sempre senza esito) di avvocati, funzionari, giudici e sgualdrine, per tutti i corridoi del Tribunale.Nel febbraio 2014, al momento dell’attivazione del software per la compilazione della Strategic Subjects List (Ssl), il comandante della polizia di Chicago Jonathan Lewin aveva dichiarato che il dispositivo sarebbe servito a salvare delle vite.

In a handout photo from investigators, the cap Michael Brown was wearing when he was fatally shot by officer Darren Wilson in Ferguson, Mo. on Aug. 9, 2014. The release of evidence presented to grand juries is rare, but prosecutor Robert McCulloch?s office did so on Nov. 24, when it was announced that Wilson would not face charges. (St. Louis County Prosecutor's Office via The New York Times) ? FOR EDITORIAL USE ONLY.

Per compiere l’indagine sul campo, Jessica Saunders, Priscillia Hunt e John Hollywood, della RAND Corporation, sono stati ammessi negli uffici del Dipartimento. Durante la loro esplorazione hanno verificato che nell’uso concreto gli agenti non ricorrono allo strumento per ottenere predizioni. La consultazione della Ssl avviene solo dopo la segnalazione di una sparatoria o di un omicidio, per stilare il primo elenco di sospetti da arrestare. Di conseguenza, la capacità preventiva dell’infrastruttura tecnologica sull’area urbana non è provata da alcun risultato reale. Nessuna vita è stata salvata grazie al software.

Un’altra indagine condotta dagli stessi autori per la RAND sul programma di polizia precrime a Shreveport, in Lousiana, ha portato alla stessa conclusione: «Non si è registrata una riduzione statisticamente rilevante dei crimini contro la proprietà». Per quanto riguarda i risultati attribuiti a PredPol nell’area di Los Angeles, lo studio che li documenta conta cinque autori su sette in rapporti economici con la società di Santa Cruz: due di loro sono addirittura i soci fondatori. Anche la retorica del potere divinatorio dei software sembra sgorgare da un racconto inedito di Kafka: perché la gente, e la polizia, vuole credere nell’efficacia delle tecnologie predittive?

La soluzione dell’enigma forse è già scritta nel saggio La cultura del controllo, pubblicato nel 2002 dal sociologo David Garland. La concezione del crimine si è trasformata fin dagli anni Novanta: non esiste più il fuorilegge, insieme al suo stato di eccezione (famigliare, economico, culturale…), che può essere riabilitato e reintegrato nella comunità. La nostra società ha perso fiducia nell’educazione, ed è diventata scettica sulla natura stessa dell’uomo. Il delitto è un evento atomico, non il sintomo di una storia; si produce in modo inevitabile, non appena vengano a mancare le strutture di controllo collettivo, istituzionale, contestuale.

Solo la coercizione ambientale neutralizza l’istinto dell’individuo – votato per necessità biologica all’egoismo e all’antisocialità. Per questo lo Stato non basta più, e si è dovuto sviluppare un mercato di dispositivi di sorveglianza, di tracciamento, di raccolta dati: i software di polizia predittiva non ne sono che un frammento. Ogni servizio maschera una profilazione: Josef K. è circondato da maggiordomi, pronti a ucciderlo prima che possa fare qualunque cosa di male.

Altri articoli che potrebbero interessarti