L’algoritmo di Google scambia delle persone di colore per dei “gorilla” e la gaffe diventa subito virale. Tutta colpa del nuovo servizio Foto, lanciato da Google durante la conferenza I/O 2015 di San Francisco dedicata agli sviluppatori.
Il nuovo servizio “Photos” permette agli utenti di caricare in uno spazio cloud illimitato tutta la loro libreria fotografica. Il sistema riconosce i protagonisti degli scatti per assegnare automaticamente tag e altre informazioni utili alla categorizzazione delle immagini. Una funzione accolta con grande entusiasmo che, tuttavia, pare non essere priva di bug. Lo scivolone più clamoroso è capitato a un ragazzo di Brooklyn.
Due persone di colore sono state scambiate per gorilla dal servizio Foto di Google
Jacky Alciné, dopo aver caricato alcune sue foto, ha scoperto che lui e la sua amica, entrambi di colore, erano stati taggati come “Gorillas”. Il ragazzo ha condiviso lo screenshot su Twitter ed è stato subito ripreso da alcuni siti web importanti come Slate.
Il primo a scusarsi in casa Google è stato Yonatan Zunger, chief architect di Google+. Poco dopo sono arrivate anche le scuse ufficiali di Big G: «Siamo sconvolti e sinceramente dispiaciuti per quanto accaduto. Stiamo prendendo provvedimenti immediati per prevenire il ripetersi di questi errori in futuro. C’è chiaramente ancora molto lavoro da fare con l’etichettatura automatica delle immagini».
Il sistema automatizzato di Google che riconosce le foto sembra incepparsi quando compaiono persone con la pelle scura. Ci sono voluti diversi tentativi e molte ore di lavoro prima di rimuovere il “tag razzista”.
I precedenti
Non è la prima volta che un’azienda tecnologica si trova a dover affrontare una gaffe razzista generata da un algoritmo automatico. Lo scorso maggio, la funzione di auto ricognizione fotografica di Flickr aveva identificato la foto di un uomo di colore con il tag “scimmia”. Anche HP fu protagonista di un problema simile diversi anni fa: la tecnologia di tracciamento dei volti sviluppata per le loro webcam non era capace di seguire i movimenti di una persona con la pelle scura.
