Ibm, 'Effetto Floyd': basta tecnologia di riconoscimento facciale alla polizia

09 giugno 2020Ibm esce dal mercato del riconoscimento facciale per fini non etici e rivendica la propria contrarietà all'uso di questa tecnologia per "sorveglianza di massa, profilazione razziale, violazione delle libertà e dei diritti umani". Lo ha reso noto il Ceo della multinazionale tech statunitense, Arvind Krishna, in una lettera inviata al Congresso americano in cui chiede anche una legge per la giustizia razziale.

"Riteniamo che sia giunto il momento di avviare un dialogo nazionale sul se e sul come la tecnologia per il riconoscimento facciale debba essere impiegata dalle forze dell'ordine", ha scritto Krishna, che mette in evidenza i 'bias', pregiudizi all'origine di problemi del riconoscimento facciale  su etnia e genere riscontrati nei sistemi generati da intelligenza artificiale.

Il Ceo di Ibm ha quindi esortato il Congresso a impegnarsi in riforme per la giustizia razziale, tra cui la revisione dell'immunità qualificata che protegge le forze dell'ordine e impedisce ai cittadini di chiedere i danni se un agente viola i loro diritti costituzionali.

“Ibm firmly opposes and will not condone uses of any [facial recognition] technology, including facial recognition technology offered by other vendors, for mass surveillance, racial profiling, violations of basic human rights and freedoms, or any purpose which is not consistent with our values and Principles of Trust and Transparency,” Krishna said in the letter. “We believe now is the time to begin a national dialogue on whether and how facial recognition technology should be employed by domestic law enforcement agencies.”

La lettera di Krishna pone l'accento sulle questioni etiche legate all'uso di intelligenza artificiale, ma sottolinea che l'azienda intende rinunciare alla vendita e alla ricerca di questa tecnologia se in violazione delle proprie regole di fiducia e trasparenza. 

L'etica dell'AI
Non si tratta del solo 'effetto Floyd' ad innescare il dibattito. L'uccisione dell'afroamericano a Minneapolis ha riaperto la discussione sulla vendita di tecnologie per il riconoscimento facciale da parte delle Big Tech alla polizia, ma le questioni etiche sono da tempo in discussione a livello mondiale. 

Lo scorso 28 febbraio, a Roma, istituzioni e Vaticano hanno firmato, assieme a Microsoft e Ibm l'intesa per la  tecnologia etica "Rome Call for AI Ethics", documento della Pontificia accademia per la vita,  impegno formale aperto all'adesione di tutti i settori della società. Alla  presentazione, il presidente dell'Europarlamento David Sassoli, il direttore generale della Fao, la ministra per l'Innovazione Paola Pisano. 

L'impegno di Ibm: dialogo uomo - macchina
In quell'occasione, John Kelly III, vicepresidente Ibm, aveva dichiarato che l'azienda ha scelto di dire basta alle sfide tra mente umana e computer, come ad esempio quelle a scacchi (il riferimento è all’11 maggio 1997, quando il super computer DeepBlue dell'Ibm batteva in sole 19 mosse il più grande scacchista del mondo, Garry Kasparov).  L'obiettivo, oggi, ha spiegato il vicepresidente esecutivo, è "la collaborazione tra uomo e macchina. Noi e i nostri colleghi lavoriamo duramente nel settore agricolo, sanitario, energetico, per portare i migliori cervelli umani a lavorare insieme e raggiungere tempestivamente le decisioni migliori”.