Il riconoscimento facciale diventa di massa: rischi e tentazioni

L’allarme è arrivato da due giganti che avrebbero tutto da guadagnare dallo sfruttamento della tecnologia, e sarebbe il caso di non prenderlo sottogamba. È vero: il riconoscimento facciale è uno strumento prezioso per fare soldi e soprattutto acchiappare i criminali, spiega Amazon in un comunicato stampa. Ma negli ultimi tempi la società si è accorta, da alcuni test effettuati con la sua divisione specializzata, che quello stesso strumento potrebbe essere usato per discriminare e reprimere i diritti civili: per esempio, faticando a individuare l’identità delle persone dalla pelle scura.

Microsoft, dal canto suo, fa sapere in una nota simile che la tecnologia potrà, sicuramente, servire a ritrovare bambini scomparsi (un esempio tra molti) ma rischia di favorire anche il controllo di massa da parte di governi e multinazionali, oltre alle già menzionate decisioni frettolose e sbagliate. Tutta colpa dei programmatori? O è l’essenza stessa del cosiddetto machine learning a contenere il rischio autoritario? Il riconoscimento facciale resta uno dei settori innovativi dalle potenzialità di profitto più attraenti, come racconta anche il sito Axios, e potrà toccare tanto il campo dei social quanto quello dell’intelligence.

La tecnologia è ancora imperfetta, per usare un eufemismo. Riccardo Luna ha ricordato quando a un concerto di Taylor Swift, un anno fa, migliaia di spettatori sono stati fotografati da un computer che poi “inviava automaticamente le immagini in un ufficio a oltre tremila chilometri di distanza, a Nashville, dove le foto venivano intrecciate con un database dove erano stati registrati un centinaio di stalker della cantante” (le persone coinvolte avrebbero saputo del test solo grazie alla rivista Rolling Stone). E sempre qualche mese fa, scrive Vox, uno dei più noti software in circolazione ha confuso 28 membri del Congresso statunitense con altrettanti criminali comuni. Senza dimenticare il caso dell’adolescente che ha fatto causa alla Apple per un miliardo di dollari perché era stato arrestato per un furto che non aveva commesso.

Così i dirigenti aziendali e programmatori stanno correndo ai ripari. Quando c’è la volontà politica di farlo, certo. Se fra qualche giorno, il 22 maggio, gli azionisti di Amazon potranno votare simbolicamente per chiedere che il sistema fatto in casa di nome Rekognition, già venduto a diverse polizie e alla dogana statunitense, non venga utilizzato dalle agenzie federali, una delle decisioni dal valore simbolico più forte è arrivata martedì dalla città di San Francisco, il cuore della Silicon Valley, dove con un voto a schiacciante maggioranza si è deciso di vietare l’utilizzo del riconoscimento facciale (il provvedimento si chiama Stop alla sorveglianza segreta).

Il divide, affascinante e minaccioso al tempo stesso, tra l’opportunità di un’invenzione e l’incubo in cui può trasformarsi è illustrato perfettamente da uno scoop di Nbc News. In un’inchiesta due giornalisti hanno scoperto come Ever, una app di immagazzinamento per le foto digitali, sta sperimentando con questa tecnologia per poi venderla “a società private, alla polizia e all’esercito”. “Ogni volta che gli utenti di Ever acconsentono al riconoscimento facciale sulle proprie foto per raggruppare immagini delle stesse persone – scrivono i reporter Nbc – la tecnologia apprende dagli abbinamenti e si auto-addestra. Quell’apprendimento, a sua volta, fa ingigantire le potenzialità commerciali della società”.

Il guaio è che l’unica menzione della tecnologia di riconoscimento facciale che sta dietro Ever è una “breve nota aggiunta alla sezione sulla privacy policy” soltanto dopo che gli autori dello scoop hanno contattato la società. In ogni caso il piano ha funzionato, poiché i creatori di Ever, dopo aver annunciato di volersi focalizzare sul riconoscimento facciale, hanno raccolto 16 milioni di dollari dai venture capital.

E che dire delle potenzialità – o sarebbe meglio chiamarle brutalità – del facial recognition in Cina? Face++, una società lanciatissima nel settore, ha raccolto la settimana scorsa alla borsa di Hong Kong circa 750 milioni di dollari, e ha un valore stimato adesso in oltre quattro miliardi di dollari. I festeggiamenti arrivano mentre Human Right Watch riporta che il software di Face++ è impiegato dal governo di Pechino per identificare i potenziali terroristi interni.

Nella vita di tutti i giorni, il Big data del controllo si traduce in una cifra variabile di musulmani uiguri imprigionati che va dall’1 ai 2 milioni di individui, e almeno altrettanti sotto sorveglianza costante, come riporta anche un articolo recente del New York Times. Le autorità cinesi controllerebbero, secondo il report di Hrw, ogni aspetto della vita della minoranza più importante dell’est del paese – dal consumo di elettricità alla frequentazione delle moschee – anche tra coloro che non hanno nulla a che fare con attività eversive.

Secondo Hrw “un vasto numero di persone” è detenuto arbitrariamente, anche a causa dei “dubbi criteri usati per l’identificazione dei cittadini”. Più fortunati gli abitanti della costosissima San Francisco, diventati i primi negli Stati Uniti a vedersi messa fuori legge – o perlomeno in discussione – la sorveglianza di massa.