Seguici anche su

9 ottobre 2016

‘Partnership on AI’, l’alleanza dei 5 big per dettare le regole

RankBrain di Google seleziona contenuti razzisti. Tay di Miscorsoft usa toni nazisti. Il chatbot del Mit esaspera il radicalismo. Le macchine che apprendono provocano problemi. Ora i grandi della tecnologia lavorano affinché i software più evoluti non spaventino l'umanità. E non è un film di fantascienza

PAOLO BOTTAZZINI

RankBrain di Google seleziona contenuti razzisti. Tay di Miscorsoft usa toni nazisti. Il chatbot del Mit esaspera il radicalismo. Le macchine che apprendono provocano problemi. Ora i grandi della tecnologia lavorano affinché i software più evoluti non spaventino l’umanità. E non è un film di fantascienza
PAOLO BOTTAZZINI

 

«Sappiamo più di quello che possiamo dire». Non è la battuta di un film di Hitchcock, ma l’epigrafe di Michael Polanyi sull’apprendimento per imitazione, quello che ricorre tutte le volte in cui il maestro non può verbalizzare le istruzioni una a una, ma si propone agli allievi come un modello da mimare. Accade con l’equilibrio in bicicletta, con il controllo del pallone, con la sensibilità artigianale per i materiali, con l’occhio clinico, con la perspicacia investigativa. In realtà avviene quasi ovunque, perché l’addestramento sviluppa l’abilità di fiutare in autonomia la traccia giusta in ogni circostanza.

Fino a pochi anni fa si riteneva che questo talento non potesse essere ereditato dall’intelligenza artificiale, perché l’intuizione consiste nel ritagliare pattern sempre identici, attraverso la variabilità degli eventi – mentre le macchine eseguono sequenze di compiti, e obbediscono a regole che sono esplicitate nel programma. In altre parole, ci si aspettava che l’AI (Artificial Intelligence) non sarebbe mai diventata intelligente, sebbene da decenni le scienze cognitive descrivessero la mente umana in termini di dispositivi di calcolo.

I tempi sono cambiati. Lo mostra il fatto che cinque giganti della tecnologia, come Amazon, Google, Facebook, Ibm e Microsoft, in guerra per il controllo dei sistemi informativi nelle aziende e nelle case di tutto il mondo, abbiano accettato una tregua; e dalla fine di settembre abbiano congiunto i loro sforzi per legittimare l’infiltrazione dei loro dispositivi di AI nella società degli uomini. La piattaforma rivolta al pubblico si chiama “Partnership on AI”, e il consorzio si presenta con le insegne della pace iscritte nell’estensione .org formulando sette regole a cui d’ora in poi chi sviluppa sistemi basati sull’intelligenza artificiale dovrà attenersi. Tutto ciò, come facciamo notare in una scheda pubblicata in questa pagina, fa tornare alla memoria le tre leggi della robotica coniate da Isaac Asimov negli anni Quaranta.

Come gli uomini, anche i giganti sanno più di quello che possono dire. In realtà l’intelligenza artificiale è già tra noi da tempo; non occorrono gli androidi di Asimov, con il loro cervello positronico (qualunque cosa ciò voglia dire), per riconoscere alle macchine competenze di percezione, comprensione e reazione. Quello che mancava per iniettare loro un po’ di vita erano le capacità di apprendimento, e negli ultimi quattro anni i processi di deep learning stanno provvedendo a colmare la lacuna. Da almeno un anno, i motori di ricerca come Google, molti bot (come le classi più sofisticate di bot messenger), e i robo-assistenti domestici, adottano sistemi di intelligenza artificiale che pensano e decidono per noi ogni giorno; saranno anche soltanto i primi indizi del nuovo paradigma della tecnologia, ma possiamo presagire in questo esordio l’incubazione di un’ossessione seriale.

Douglas Hofstadter negli anni Settanta sottolineava ogni conquista dell’informatica verso l’automazione del pensiero, i detrattori replicavano limitandosi ad escludere le funzioni dalla lista degli attributi autentici della mente. Se è artificiale allora non è intelligenza. Peccano di falsa testimonianza, davanti al tribunale della ragione, espedienti come copiare le mosse dei campioni del passato per vincere una partita a scacchi, inanellare dimostrazioni di geometria senza un progetto scientifico, tradurre da una lingua all’altra convertendo parola per parola.

Ma oggi siamo entrati nella Seconda Era delle Macchine, come Erik Brynjolfsson e Andrew McAfee denunciano già dal 2014. Le preoccupazioni quindi sono cambiate, perché non occorre più difendere le potenzialità di successo della tecnologia, ma diffidare dagli effetti negativi che potrebbero ripercuotersi sulla società. Anche la collettività degli uomini rischia di rimodellarsi più di quanto si possa misurare nell’immediato: il governo americano ha già mostrato le sue ansie sul potere dell’IA di discriminare, svantaggiare e costringere alla migrazione interi blocchi di popolazione.

La Casa Bianca ha pubblicato lo scorso maggio un documento di indirizzo, elaborato da una commissione attivata dal 2014, Big Data: A Report on Algorithmic Systems, Opportunity, and Civil Rights. Sotto la lente dei ricercatori sono finite le criticità sia delle banche dati, sia delle learning machine. L’amministrazione Obama ha promosso, per tutto il secondo mandato, gli investimenti a favore della ricerca e dello sviluppo su robotica e intelligenza artificiale: il successo nella competizione internazionale, soprattutto contro la Cina, dipende dal primato in questi settori. Ma ha dovuto anche sospettare le trappole che i procedimenti di comprensione, e di decisione, possono tendere a classi di individui in carne e ossa, colpiti dai pregiudizi (consapevoli o no, inoculati ad arte o ereditati dalla storia) che si insinuano nella formazione delle collezioni di dati; ma anche dai preconcetti assorbiti dagli algoritmi, quando esplorano i modelli umani da cui estrarre gli schemi dei pattern.

Tre episodi degli ultimi mesi aiutano a tracciare il perimetro delle ansie presidenziali. Le macchine sono cresciute in astuzia da quando hanno fatto professione di umiltà nei confronti dell’intelligenza umana. Occorre riconoscere il merito del primato all’algoritmo PageRank, il nucleo originario della razionalità di Google: per primo ha stimato la rilevanza di un contenuto raccogliendo le prove dell’interesse degli uomini, depositate nei link che puntano all’indirizzo della pagina.

Nell’aggiornamento del motore di ricerca, entrato in funzione nel settembre 2015, è stata inserita una componente di intelligenza artificiale battezzata RankBrain. Il 6 aprile la testata BoingBoing documentava le tendenze razziste della nuova mente di Google, mettendo agli atti i risultati di una interrogazione sul dispositivo di ricerca per le immagini: alla domanda «unprofessional hairstyles» il motore restituisce una galleria di ragazze nere. Per la richiesta professional hairstyles il sistema risponde con una carrellata di donne bianche.

La scelta è decisa; è anche intelligente? I siti di appuntamento sanno bene che le ragioni del cuore sono razziste: lo hanno imparato al volo anche le learning machine. Microsoft ha saputo farlo anche meglio di Google, quando ha attivato Tay, un chatbot (programma che simula una conversazione tra robot e umani, ndr) che conversa come una ragazza di vent’anni. Il dispositivo si è presentato su Twitter il 24 marzo, e dopo meno di un giorno dall’esordio il suo account è stato messo a silenzio: ormai sapeva troppo sugli uomini per poter parlare con loro.

Il dialogo con centinaia di interlocutori, in poche ore, ha insegnato all’intelligenza artificiale una visione del mondo improntata al razzismo e a un orientamento totalitaristico, come mostra questo tweet: «@icbydt Bush ha fatto 9/11 e Hitler avrebbe fatto un lavoro migliore della scimmia [Obama] che abbiamo ora. donald trump è la sola speranza che abbiamo». Molto nazista. Il candidato repubblicano è fonte di ispirazione per altre learning machine, come quella che alimenta il chatbot sviluppato al Mit con il nome Deep Drumpf. Il sistema ha divorato la trascrizione di vari discorsi elettorali, e ormai i suoi tweet sono indistinguibili da quelli del magnate in carne e ossa – soprattutto quando sono insensati. Ma non sempre l’esempio degli esseri umani agisce con la limpidezza di Trump.

All’inizio di settembre si è svolto (Beauty.ai) il primo concorso di bellezza internazionale con una giuria composta da sole intelligenze artificiali: una per l’esame delle rughe, una per la ricerca di brufoli, una per la valutazione della lontananza dai modelli di bellezza entro ciascun gruppo etnico, una per la misurazione della simmetria, una per il giudizio sull’età percepita. Sono arrivate fotografie da 6 mila candidati, dislocati in più di cento Paesi. Eppure, per le learning machine i più belli del mondo sono bianchi, per tutte le fasce d’età. Molto improbabile.

Su un tema come quello dell’AI, che lascia presentire ai giganti della tecnologia profitti enormi e la conquista di un potere decisionale sulle città (con le smart city), sugli spostamenti (con le macchine che si guidano da sole), sulle case (con gli smart object collegati alla gestione dell’energia e alla domotica), sugli individui (con i dispositivi biometrici che indossiamo), gli attori del consorzio Partnership on AI contano di avere mano libera, senza interferenze politiche o burocratiche. Per questo, a meno di quattro mesi dalla sortita del report di Obama, si sono attivati per riprendersi la guida di quello che si dice e di quello che si può sapere. Anche se brama ascoltare la nostra opinione sul (suo, e dei suoi soci) sito Partnershiponai.org, Microsoft ha appena assunto Harry Shum alla direzione delle attività di ricerca e sviluppo per l’intelligenza artificiale, e gli ha affidato il lavoro di oltre cinquemila ingegneri.

Saranno loro, e non le nostre idee, a cercare la strategia per rendere le learning machine del futuro meno ingenuamente stupide di Tay, e molto più efficienti nel convincere tutti che le soluzioni migliori per i problemi delle città, delle case e delle persone, possono arrivare solo da un dispositivo tecnologico – perché ne sa di me e della mia città più di quello che io posso dirne. Non è un film di Hitchcock perché, fino a quando non saranno le istituzioni politiche a prendere l’iniziativa, di questo brutto giallo si conosce fin da ora l’assassino.

[Fotografia in apertura Getty Images]

Altri articoli che potrebbero interessarti