Ogni volta che scattiamo una foto e il nostro telefono riconosce la presenza di volti per migliorare l’illuminazione, ogni volta in cui sblocchiamo il telefono semplicemente rivolgendolo al nostro viso, entriamo in contatto con la tecnologia di riconoscimento facciale. Quali sono le opportunità che cela questa applicazione di intelligenza artificiale (AI)? Quando si parla di riconoscimento facciale si intende l’utilizzo di tecniche biometriche 2D e 3D al fine di mappare e replicare il volto della persona. Le prime applicazioni, seppure molto imprecise, risalgono a circa 25 anni fa. Oggi questo sistema ha avuto impressionanti miglioramenti e perfezionamenti. Si stima infatti che il suo mercato possa raggiungere i 7 miliardi di dollari nel 2024.
Precedentemente sono state citate alcune applicazioni di questa tecnologia nella vita quotidiana, ma quali sono i possibili risvolti nel mondo del business? Principalmente due: sicurezza e controllo degli accessi.
Essa può essere implementata, ad esempio, su diversi veicoli da strada, al fine di rilevare la possibile presenza di segni di stanchezza sul volto del conducente.
Un’altra possibilità è quella di essere messa a disposizione per regolare l’accesso delle persone in luoghi pubblici o di lavoro in cui l’affluenza è particolarmente elevata.
Inoltre, essendo in grado di interpretare le emozioni sul volto delle persone, si potrebbe comprendere il livello di gradimento di una pubblicità, cambiando eventualmente la strategia di vendita.
Infine, la sua applicazione sarebbe perfetta in tutti quei servizi in cui è necessaria un’identificazione della persona in modo preciso come, per esempio, l’home banking.
Questi sono solo alcuni esempi del modo in cui questa tecnologia potrebbe aiutare il mondo. Ci sono infatti enormi potenzialità di miglioramento sia a livello economico, garantendo una maggiore efficienza, ma anche sociale, creando ambienti sempre più sicuri.
Quanto è realmente usato il riconoscimento facciale oggi nel mondo? Un esempio concreto è rappresentato dall’azienda statunitense Clearview AI. Quest’ultima ha raccolto circa 3 miliardi di immagini di utenti da social-network per formare un database estremamente ricco. Il funzionamento della piattaforma creata è semplice: si carica una foto e il sistema fornirà il nome e i contatti dell’individuo in questione. Tra i tanti clienti di questa società compaiono anche forze dell’ordine, le quali utilizzano questo servizio per cercare criminali non identificarti con le classiche foto segnaletiche. Recentemente però l’impresa è finita sotto indagine in diversi paesi in quanto si sospettata di non essere conforme alle leggi sulla privacy.
Cosa ci ferma dall’investire nel riconoscimento facciale quindi? La sua affidabilità. L’AI lavora secondo un processo complesso chiamato deep learning. La programmazione del software avviene fornendo alla macchina un set di dati da cui poter attingere come esempio, i quali vengono successivamente elaborati con algoritmi complessi in modo da astrarre i principi guida che verranno applicati successivamente nelle differenti situazioni. Il settaggio della macchina è uno step fondamentale. I dati iniziali diventano il metro di giudizio. È quindi necessario selezionare un campione privo di pregiudizi, in modo da evitare una discriminazione sistematica. Più un algoritmo è efficiente, più tende ad amplificare i suoi effetti, sia nel bene che nel male.
Un esempio per comprendere quanto sia fondamentale la programmazione della macchina risale al 2015, quando una gaffe indignò la community di internet: un utente pubblicò la sua schermata di Google Photos; nell’immagine postata salta subito all’occhio come un selfie, ritraente due persone nere, fosse intitolato “Gorillas”. L’azienda utilizzava un software per contrassegnare le immagini con il nome di ciò che vi era rappresentato. Il software era razzista? Nell’immaginario comune si pensa che il modus operandi di una macchina sia ‘neutro’ ma la realtà ci appare ben diversa. Le macchine non funzionano in questo perché sono programmate da essere umani. A questi, purtroppo, è impossibile essere ‘neutri’ per natura.
Il caso sopracitato risultò in uno scandalo, conclusosi con le scuse di Google e il ban della parola “Gorillas” come possibile titolo di foto. Oltre a questo, non ci furono altre particolari ripercussioni.
Si può dire che l’avvenimento fu molto circoscritto. Cosa accadrebbe se si sperimentasse l’AI in scelte più importanti di un titolo di una foto, per esempio nella selezione di nuovo personale?
Tra il 2014 e il 2017 Amazon utilizzò un software per le assunzioni. Non ci volle poco tempo per accorgersi che il quest’ultimo applicava discriminazioni sistematiche di genere. Il programma infatti favoriva i candidati uomini, utilizzando questa caratteristica per etichettarli come più adatti al lavoro. Questo fatto, al contrario del primo citato, ha avuto conseguenze reali sulla vita delle persone. Non fu facile arrivare alla soluzione del problema. Nel 2017 il progetto fu abbandonato definitivamente. In quei 4 anni tantissime donne non hanno ottenuto ingiustamente un lavoro a causa di un errore di programmazione. Un bias cognitivo ha avuto conseguenze tangibili, sono state create delle ingiustizie.
Se si applicasse questo tipo di AI in contesti legali e giudiziari si potrebbe incorrere nel rischio di un ennesimo errore, finendo per condannare un innocente?
L’Unione Europea è scettica nei confronti di questa tecnologia in quanto non conforme alle norme per la tutela dei cittadini e della loro privacy.
Per il trattamento di dati così personali come quelli biometrici è necessaria una regolamentazione. Queste informazioni devono essere maneggiate con cura in quanto possono avere conseguenze molto importanti nella vita delle persone. Recentemente, alcune aziende come Amazon e Microsoft si sono allineate a questa posizione, rifiutandosi di fornire i loro software a istituzioni pubbliche. Nonostante il corrente scetticismo, il mondo si sta però dirigendo nella direzione dell’AI.
È perciò essenziale che istituzioni nazionali e sovranazionali lavorino per trovare un bilanciamento tra innovazione e tutela dei diritti del cittadino.
Comments