Seguici anche su

2 novembre 2017

L’algoritmo è innocente, Facebook e Google no

L’imprevedibilità dei procedimenti di calcolo è diventato il grande alibi della aziende tech. Ma questo non le solleva dalle loro responsabilità

Lelio Simi

Gli algoritmi stanno diventando sempre più complessi e complicati, il loro utilizzo si sta espandendo in settori che fino a poco tempo fa non avremmo mai immaginato potessero essere “governati” da sistemi di calcolo. La grande paura di algoritmi tanto evoluti da diventare entità autonome capaci di sopraffare la volontà stessa degli individui che li hanno generati alimenta studi, analisi, previsioni spesso apocalittiche.

Nulla di nuovo, si dirà. L’incubo di macchine così intelligenti da poter sottomettere l’uomo ha radici lontane – la letteratura di fantascienza lo racconta, spesso mirabilmente, da oltre un secolo – ma oggi le narrazioni distopiche si sono moltiplicate con il crescente utilizzo di sistemi sempre più evoluti di intelligenza artificiale. Vi ricordate la bufala dei due robot progettati nei laboratori di Facebook che avevano iniziato a parlare tra di loro in una lingua sconosciuta gettando nel panico i loro stessi programmatori?
In realtà si è trattato di un esperimento, già noto da tempo, di AI applicata a una chat (non erano robot) nel quale tutto è sempre stato sotto il più totale controllo dei ricercatori.

Eppure la narrazione terrorizzante ha prevalso. Con quale risultato? Uno, sicuramente, è poco visibile: questo genere di storytelling offre una comoda via d’uscita alle aziende tecnologiche per non farsi carico concretamente delle proprie responsabilità. Quando, ad esempio, subito dopo la strage di Las Vegas tra i primi risultati delle “top stories” di Google sono apparsi contenuti dal sito 4chan – la cui scarsissima affidabilità è nota – contribuendo in modo determinante a far dilagare notizie false sulla reale identità dell’attentatore, la giustificazione data da Mountain View è stata: un semplice difetto dell’algoritmo non prevedibile. Una spiegazione a cui sempre più spesso ricorrono anche aziende come Facebook o Uber.

Ma è davvero plausibile che questi colossi tecnologici, così bravi nello sviluppare algoritmi sempre più efficienti per perseguire i propri modelli di business, possano sollevarsi dalle loro responsabilità quando le ricadute sociali di certi avanzamenti sono negative, dando la colpa alla difficoltà nel gestire i loro stessi sistemi? È vero che, per l’enorme e rapidissimo sviluppo delle loro piattaforme, queste stesse aziende si trovano sovente ad affrontare criticità di carattere sociale o politico per loro del tutto nuove. Ma dal punto di vista della gestione delle tecnologie, ogni qual volta hanno presentato dei problemi o dei “bug” che mettevano a serio rischio la redditività dei loro servizi, le stesse aziende hanno sempre dimostrato di essere perfettamente in grado di risolverli e correggerli.

Nello storytelling di successo, ogni “pietra miliare” raggiunta a ogni nuovo bilancio economico è il frutto del lavoro dei manager e delle loro squadre di ingegneri, mentre gli effetti negativi causati dalle manipolazioni possibili delle loro piattaforme sono semplicemente gli inevitabili danni collaterali di una generica complessità tecnologica.
«È colpa dell’algoritmo», è la nuova formula magica per giustificare iniquità e disservizi.

Nella gestione delle risorse umane, per esempio, se emergono errori nel valutare il profilo di un neo laureato o il rendimento di un impiegato di McDonald’s, è colpa della difficoltà nell’aggiornare con frequenza i codici, ma se si tratta di atleti delle leghe professionistiche americane o europee costati decine di milioni di euro, gli algoritmi per valutarne il rendimento non presentano alcun problema nell’essere continuamente perfezionati. Una deresponsabilizzazione di comodo che ha contagiato anche società pubbliche e istituzioni: per Trenitalia è «colpa dell’algoritmo» l’ingiustificato aumento dei prezzi degli abbonamenti per pendolari; è «colpa dell’algoritmo» per il Miur se nella mobilità dei docenti scoppia il caos.

The algorithm is innocent ha scritto su The Outline William Turton, l’enfant prodige del giornalismo tecnologico americano. Le scelte e le strategie aziendali sono un po’ meno innocenti, invece. Dovremmo cominciare seriamente a pretendere un’altra narrazione sull’evoluzione degli algoritmi più incentrata sulle reali responsabilità di chi li sviluppa, si arricchisce e li utilizza a propri fini e meno sulla loro ineluttabile e ingestibile complessità.

Altri articoli che potrebbero interessarti