Seguici anche su

16 giugno 2017

Dalla Cina a Facebook, prove di controllo totale

Il “credito sociale” di Pechino è il più ambizioso progetto di controllo digitale mai operato. Ma le strategie delle Big della Silicon Valley vanno nella stessa direzione

Attanasio Ghezzi - Gennari Santori

 Vai al sommario

[Dal numero di pagina99 del 16 giugno 2017]   Fatevi una fotografia e mettetela online tramite un’applicazione gestita dall’amministrazione locale. Basterà poi aggiungere il numero del documento di identità e, se siete a Shanghai, in ventiquattr’ore il governo spedirà sul vostro smartphone tutte le informazioni che ha su di voi. Scuole frequentate, situazione contributiva, multe, stato di famiglia e chi più ne ha più ne metta. Se siete stati bravi e avete tutte le carte in regola, riceverete anche un premio: un buono sconto per l’acquisto di un biglietto aereo o l’accesso alla lounge di lusso di determinate sale d’attesa. E se invece siete stati cattivi?

Ancora non lo sappiamo. Ma con ogni probabilità l’anno prossimo potremmo puntare l’obiettivo del nostro smartphone sul nostro vicino di casa e sapere tutto di lui. O almeno saperne quanto ci vorrà far sapere il governo. Già oggi, con la stessa applicazione – il cui nome potrebbe tranquillamente tradursi “Shanghai onesta” – possiamo conoscere gli standard di igiene dei ristoranti di quartiere e la reputazione delle aziende che operano sul territorio.

La sperimentazione, iniziata lo scorso novembre su base volontaria, non è unica. In giro per la Cina sono almeno trenta i governi locali che stanno cercando di raggiungere prima e meglio l’obiettivo fissato da Pechino per il 2020: il “credito sociale”, un sistema che valuti con ogni strumento disponibile il comportamento di ogni persona fisica o giuridica che risiede nella Repubblica popolare. Per quella data, secondo il governo cinese, «la fiducia regnerà sotto il cielo perché sarà difficile per chi è stato screditato compiere anche un singolo passo». D’altronde sempre nel 2020, dovrebbe essere ultimata la «costruzione di una società moderatamente prospera». O meglio, questi sono i piani della leadership.

 

La Cina è vicina

Sappiamo cosa state pensando: la Cina è diversa da noi. Ma le tecnologie per il controllo totale dei cittadini che le autorità cinesi stanno sperimentando con la collaborazione delle aziende digitali locali, sono un modello per i colossi della Silicon Valley. Certo, esiste una differenza: in Cina a progettare e costruire il sistema è uno Stato autoritario, mentre in Occidente è un oligopolio di aziende private. Ma la strategia del governo di Pechino ci indica le possibilità che le nuove tecnologie digitali offrono nel plasmare una società.

Quello cinese è di fatto il più ambizioso esperimento di controllo digitale nel mondo e, se tutto va secondo i piani quinquennali, in meno di tre anni coinvolgerà quasi un miliardo e quattrocento milioni di persone. Come sottolinea Larry Catá Backer, professore di legge e affari internazionali dell’Università statale della Pennsylvania, «le implicazioni del “credito sociale” sulla gestione delle informazioni e delle scelte di individui, aziende e organizzazioni, sono troppo potenti per essere ignorate dal resto del mondo». Ma «è troppo presto per esprimere qualcosa che sia di più di una mera speculazione perché ancora non è chiaro come questo sistema funzionerà e su quali algoritmi lavorerà».

Prima ancora che a Shanghai, il “credito sociale” è stato sperimentato su scala più piccola e in forma più grossolana nella contea di Suining, 1.500 chilometri più a ovest. Dal 2010 il governo locale dà e leva punti ai suoi cittadini sulla base dei loro comportamenti. Chi ottiene i punteggi più alti, è facilitato nell’ottenere una promozione o una casa popolare. Nella pratica l’esperimento è stato un disastro che persino i media di Stato hanno criticato. Si è visto che i punteggi ottenuti hanno a che fare più con l’obbedienza che con la qualità delle persone. Chi si lamenta per un torto subito dalle autorità va indietro nella graduatoria, ma non è detto che il sistema produca efficienza.

Niente di nuovo per uno Stato totalitario ossessionato dalle liste. Il sistema evoca quello delle dang’an, i dossier con cui il partito comunista ha sempre tenuto traccia del comportamento dei “suoi” lavoratori. Ma nell’era del web 2.0, la quantità di dati a cui è possibile accedere è notevolmente più alta. Soprattutto quando si prendono in considerazione le abitudini di spesa degli utenti-cittadini.

 

Vite ridotte ad algoritmi

La strada l’ha tracciata la branca finanziaria del gigante di commercio elettronico Alibaba. Si chiama Zhima xinyong fen: «punteggio sesamo». Si tratta di un complesso intreccio di algoritmi ideato al fine di tracciare le abitudini di spesa degli internauti cinesi e valutarne l’affidabilità per ottenere un eventuale prestito. I punteggi, però, non sono calcolati solo sulla base del denaro speso online da un singolo individuo, ma anche del comportamento dei suoi “amici virtuali”.

Il sistema è nato da un’esigenza reale: cercare di orientarsi in un mercato in forte crescita. In Cina crediti, finanziamenti, mutui, pagamenti online e carte di credito sono esplosi improvvisamente: oggi più del 30 per cento dei cinesi possiede una carta di credito, il doppio rispetto ad appena cinque anni fa. Così, all’inizio del 2015, la Banca centrale cinese ha autorizzato otto aziende a sviluppare progetti pilota per valutare i cittadini. L’obiettivo dichiarato è quello di creare un metodo utilizzabile a livello nazionale entro il 2020 che, oltre alla solvibilità, possa valutare i cittadini attraverso i loro comportamenti online.

Letteralmente il sistema dovrà «accrescere l’onestà mentale e i livelli di credibilità dell’intera società». Questo vale anche per le aziende, che dovranno «autoregolamentarsi» per assecondare i dettami governativi. Secondo Flora Sapio – membro del consiglio direttivo della Fondazione per la legge e gli affari internazionali (Flia, una non profit che ha sede a Washington) che si sta occupando proprio di esplorare le sue implicazioni globali di questo sistema – «se implementato correttamente, il “credito sociale” potrebbe contribuire al miglioramento del mercato e al controllo dei comportamenti scorretti da parte di cittadini e aziende».

Zhu Shaoming, presidente della stessa Fondazione, aggiunge che «quando il sistema per definire il “credito sociale” verrà definito e accettato, diventerà un modello per il resto del mondo». Per questo «è estremamente importante stabilire sin d’ora come i dati verranno gestiti e protetti. E quali saranno gli spazi di privacy non monitorati». Perché – a parer suo – dovranno esserci. Ma non è affatto detto.

 

Il modello WeChat

Tencent, che è un altro dei giganti digitali a cui è stata accordata la licenza della Banca centrale cinese per i progetti pilota di valutazione, ha sviluppato un sistema simile al “punteggio sesamo”. Il suo prodotto di punta è WeChat che, nato come un sistema di messaggistica, è una super-app progettata per fare in modo che gli utenti non sentano la necessità di uscire dall’applicazione.

Oggi WeChat ha quasi 900 milioni di utenti attivi e il 45 per cento di loro ha smesso di portarsi dietro contante per pagare esclusivamente via smartphone. Che cosa? Tutto. Con il portafoglio virtuale di WeChat si può fare la spesa online e offline. Ma si possono anche scambiare soldi tra utenti, pagare le bollette, il taxi o i biglietti del treno. Questo significa che Tencent conosce perfettamente le abitudini di oltre 400 milioni di cinesi.

Sa dove e a che ora si svegliano, quali notizie controllano mentre fanno colazione, con quale mezzo di trasporto vanno a lavoro, e quanto tempo impiegano. Sa cosa mangiano in pausa pranzo, chi sono i colleghi di lavoro, le persone con cui interagiscono di più, quelle a cui mandano foto e video. Sa dove abitano, se comprano farmaci o se per il fine settimana vanno fuori città. Sa se fumano, se fanno la spesa per figli o genitori, se viaggiano, se quando viaggiano hanno incontri occasionali e, eventualmente, anche con chi. Ma sa anche se chattano di politica e se condividono contenuti «non armonici al sistema».

 

Una vita in streaming

Quella realizzata da WeChat è una condizione non molto diversa da quella immaginata da Dave Eggers nel romanzo Il Cerchio (Mondadori, 2014), da poco divenuto anche un film. Lo scrittore statunitense ipotizza una società dominata da una gigantesca azienda privata (Il Cerchio: più potente di Google, più penetrante di Facebook e più coinvolgente di Apple) che ha conquistato il monopolio dell’attività in rete a tal punto da indurre ogni “cittadino-utente” a vivere in una sorta di streaming permanente della propria vita.

Il giudizio in diretta del resto della società costringe chiunque a un’esistenza artefatta, condotta in funzione dei propri spettatori online. TrueYou, questo il nome del social network totalizzante nato dalla fantasia di Eggers, è frutto di una distopia che a Pechino si sta avvicinando pericolosamente alla realtà. Come nel romanzo, infatti, in Cina mancano gli anticorpi dell’opposizione tra privati e Stato e della libera concorrenza, che in tante situazioni hanno “salvato” il mondo occidentale.

Un anno e mezzo fa le grandi aziende della Silicon Valley si opposero strenuamente alla richiesta avanzata da un giudice federale ad Apple perché fornisse alle autorità l’accesso (backdoor) a un iPhone utilizzato da un terrorista. Una scelta – pur criticata da molti politici, tecnici e giornalisti –, che dimostra comunque come le aziende digitali occidentali possano opporsi allo Stato. Ma che, di fronte alla minaccia del terrorismo, potrebbe essere messa in discussione anche nel “mondo libero”.

 

Intelligence e privacy

Se analizziamo i dati raccolti dal governo cinese per la creazione del “credito sociale” troviamo immediatamente analogie con la ricerca di informazioni utili che l’Agenzia per la sicurezza statunitense (Nsa) ha condotto spiando, il lecitamente, cellulari e conversazioni di milioni di persone in tutto il mondo. “Shanghai onesta” presenta inquietanti analogie anche con i sistemi “pre-crimine” utilizzati da Fbi e diversi tribunali americani per individuare e catalogare i potenziali sospetti.

Ne sono esempi il modello computerizzato con cui la polizia di Chicago ha stilato un elenco di 1.400 soggetti con elevate probabilità di essere coinvolti in una sparatoria (Stategic Subject List) o l’algoritmo che nella cittadina di Broward in Florida valuta il rischio di recidività dei criminali (Compas: Correctional Offender Management Profiling for Alternative Sanctions).

Diverse associazioni per i diritti civili e il sito di giornalismo investigativo ProPublica hanno criticato questi software perché nell’attribuzione dei famigerati punteggi avrebbero discriminato i soggetti coinvolti per sesso, religione e colore della pelle. Bisogna inoltre considerare che la quantità di dati a cui ha accesso un governo democratico non è nulla se confrontata a quelli posseduti dai giganti del web.

 

Tracciare i pagamenti

Questi ultimi – in Occidente – dichiarano di combattere i metodi dello Stato autoritario, ma non sembrano immuni dalla tentazione di scavalcare le garanzie sulla privacy per accedere a numero sempre maggiore di dati. E su questa strada stanno compiendo passi da gigante. Per dimostrare che la pubblicità online influenza anche lo shopping tradizionale, Google ha stretto accordi con società esterne per monitorare gli acquisti offline del 70 per cento delle carte di credito attive negli Stati Uniti.

Il modello è Alipay, il portafoglio elettronico creato dal suo omologo cinese Alibaba. L’idea è quella di fare concorrenza a PayPal – ad oggi l’unico sistema di pagamento online alternativo a quello bancario divenuto maistream – e di agevolare e “disintermediare” gli acquisti, eliminando cioè il passaggio gestito dalle banche. Certo, è ancora necessario possedere una carta di credito o una prepagata ma il rischio che gli istituti di credito tradizionali perdano importanza e considerevoli margini di profitto sulle transazioni dell’economia reale è concreto.

 

Verso un’app unica

Se vi state chiedendo per quale ragione Apple, Google e gli altri stanno cercando di aggiungere questo tassello al loro complesso mosaico, la risposta è semplice: espandersi al punto di evitare che gli utenti escano dalle loro applicazioni per utilizzare quelle dei concorrenti. Proprio come WeChat, l’idea è quella di offrire un pacchetto di servizi e di esperienze che sia totalizzante.

Se su Facebook, oltre a seguire gli aggiornamenti dei miei amici e chiacchierare con loro, posso anche vedere una pubblicità e acquistare l’oggetto in questione senza dover fare passaggi intermedi o aggiungere codici, perché mai dovrei uscire dall’universo creato da Mark Zuckerberg? Inoltre, gestendo i pagamenti, i colossi It avranno accesso a un nuovo pozzo del petrolio dell’epoca contemporanea: i big data.

È anche questa la ragione per cui i colossi della Silicon Valley stanno investendo miliardi sull’intelligenza artificiale (I.A.). Oltre a ottimizzare tempi e passaggi, l’I.A. all’interno dei nostri smartphone, registra cosa facciamo e come lo facciamo in ogni momento della nostra vita. A cosa servono se non a questo i sistemi di geo-localizzazione, gli assistenti vocali e le applicazioni di realtà aumentata per la fotocamera, che attraverso tecnologie di riconoscimento dei volti e degli oggetti mostrano ai server centrali dei colossi del web esattamente ciò che stiamo inquadrando?

È un modo per raccogliere informazioni ancora più diversificate su interessi, gusti e potere d’acquisto degli utenti e sviluppare forme di pubblicità e targhettizzazioni ancor più mirate. Per offrirci quello che vogliamo, il Grande Fratello digitale deve guardare attraverso i nostri occhi e sentire attraverso le nostre orecchie.

Deve divenire parte integrante della nostra esistenza, eliminare le distinzioni tra mondo digitale e reale e personalizzare al massimo i servizi offerti tarandoli sulle esigenze dei singoli individui. In sostanza, l’aspirazione ultima di Apple, Google, Amazon e Facebook è l’onniscienza. Per conseguirla devono essere onnipresenti nelle nostre vite e monopolizzare i processi che avvengono in rete. Esattamente quello che stanno tentando di fare insieme Tencent e il governo cinese. E il motto potrebbe essere proprio quello del distopico TrueYou del romanzo Il Cerchio: «Se non sei trasparente, cos’hai da nascondere?».

 

Foto in apertura di Afp / Getty Images

Altri articoli che potrebbero interessarti