Neprijatnost prema upotrebi prepoznavanja lica u maloprodaji raste nakon što je tinejdžer iz Michigana nepravedno izbačen s klizališta

Višestruke grupe za ljudska prava udružile su se ovaj tjedan kako bi prekinule korištenje alata za prepoznavanje lica od strane velikih trgovaca.

Prema zagovaračkoj skupini Fight For the Future, tvrtke poput Applea, Macy's, Albertsons, Lowes i Ace Hardware koriste softver za prepoznavanje lica u svojim trgovinama kako bi identificirali kradljivce. Grupa izradio bodovnu karticu trgovaca na malo koje ažuriraju na temelju toga koristi li tvrtka trenutno prepoznavanje lica, hoće li to učiniti u budućnosti ili nikad neće.

Trgovine kao što su Walmart, Kroger, Home Depot, Target, Costco, CVS, Dollar Tree i Verizon obvezale su se da nikada neće koristiti prepoznavanje lica u svojim trgovinama u izjavama Fight For the Future.

Walgreens, McDonald's, 7-Eleven, Best Buy, Publix, Aldi, Dollar General, Kohl's, Starbucks, Shoprite i Ross samo su neke od tvrtki za koje Fight For the Future vjeruje da bi mogle koristiti softver za prepoznavanje lica u budućnost.

Ali ne koriste samo veliki trgovci softver za prepoznavanje lica. Reakcija na privatnu upotrebu prepoznavanja lica kulminirala je u srijedu kada je klizalište Livonia u Michiganu optužen za zabranu crnog tinejdžera nakon što ju je softver za prepoznavanje lica greškom upleo u tučnjavu.

Lamya Robinson rekla je za Fox2 da su zaštitari odbili nakon što ju je mama ostavila na klizalištu prošle subote pustio ju je unutra, tvrdeći da joj je lice skenirano i da je sustav pokazao da je zabranjena nakon što je započela tučnjavu Ožujak.

"Bila sam tako zbunjena jer nikad nisam bila tamo", rekla je Lamya lokalnoj novinskoj kući. “Mislila sam da to nisam ja. tko je to?" 

Lamyina majka Juliea Robinson nazvala je to "u osnovi rasnim profiliranjem".

"Samo kažete da svaka mlada crna, smeđa djevojka s naočalama odgovara profilu, a to nije u redu", dodao je Robinson.

Klizalište je odbilo povući se u izjavi za lokalne novine, tvrdeći da njihov softver ima "podudaranje od 97 posto".

"Ovo smo gledali, a ne sličice koje je gospođa Robinson slikala. Ako je došlo do pogreške, ispričavamo se zbog toga", stoji u priopćenju.

Caitlin Seeley George, direktorica kampanje Fight for the Future, rekla je za ZDNet da je Lamyina situacija "upravo razlog zašto mislimo da bi prepoznavanje lica trebalo zabraniti na javnim mjestima." 

“Ovu djevojku nije trebalo izdvajati, isključivati ​​iz druženja s prijateljima i izbacivati ​​je s javnog mjesta. Također nije teško zamisliti što bi se moglo dogoditi da je policija pozvana na mjesto događaja i kako bi postupili na temelju ove lažne informacije," rekao je Seeley George.

“Vidjeli smo više puta kako se ova tehnologija koristi na načine koji diskriminiraju crne i smeđe ljude i to treba prestati. Lokalni zakonodavci u Portlandu donijeli su uredbu kojom se zabranjuje korištenje prepoznavanja lica u mjestima javnog smještaja kao što su restorani, maloprodajne trgovine i da, klizališta. Pozivamo Kongres da donese takvu zabranu i na federalnoj razini."

Situacija se dogodila nakon što je Robert Williams, još jedan stanovnik Black Michigana uhićen na temelju pogreške softvera za prepoznavanje lica, svjedočio je ovaj tjedan u Kongresu.

Williams pojavio se u lipnju 2020 kao jedna od prvih osoba koja je potvrdila da je uhićena na temelju neispravnog softvera za prepoznavanje lica koji koristi policija. Podnio je tužbu protiv policije Detroita kod ACLU-a nakon što je uhićen na fronti dvorištu svoje kuće dok su njegova djeca gledala, sve na temelju podudaranja prepoznavanja lica koje ga je uključilo u pljačka.

Nakon 16 sati u pritvoru, pokazana mu je fotografija koja je vodila do utakmice i on ju je prinio svom licu, zbog čega je jedan policajac rekao "računalo je sigurno pogriješilo." Policija je stavila fotografiju sigurnosne kamere u svoju bazu podataka i Williamsova vozačka dozvola navedena je kao podudaranje.

"Građani Detroita znaju kakav je osjećaj biti promatran, biti praćen nadzornim kamerama koje koriste prepoznavanje lica", rekao je Tawana Petty, nacionalni direktor organizacije Data for Black Lives.

"U Detroitu trpimo zbog projekta Green Light, programa masovnog nadzora koji koristi više od 2000 bljeskajućih zelenih nadzornih kamera u više od 700 tvrtki, uključujući medicinske ustanove, javnim stambenim objektima i restoranima," dodao je Petty, ističući da se kamere koje koriste prepoznavanje lica nadziru u kriminalističkim centrima, policijskim postajama i na mobilnim uređajima policajaca u stvarnom vremenu 24/7.

U izjavi je rekla da je teško objasniti psihološki danak koji zajednica mora upoznati da svaki potez nadzire "rasno pristrani algoritam koji ima moć oteti vašu slobodu vas." 

"Moramo zabraniti prepoznavanje lica u trgovinama i izbaciti ovu invazivnu tehnologiju iz svakog aspekta naših života", rekao je Petty.

Viši odvjetnik EFF-a Adam Schwartz rekao je za ZDNet da upotreba prepoznavanja lica raste među trgovcima i da rasna implikacije trgovina koje imaju baze podataka "potencijalnih" kradljivaca bile su posebno teške s obzirom na privatnost implikacije.

No nije se složio sa stajalištem Fight For The Future, objašnjavajući da umjesto zabrane korištenja u privatnim organizacije, trebali bi postojati zahtjevi za pristankom na uključivanje koji bi spriječili trgovine da nasumično skeniraju svako lice koje ulazi.

Napomenuo je potrebu za inovacijama i nekim pozitivnim primjerima prepoznavanja lica koji se koriste u cijelom društvu, uključujući značajku iPhonea koja vam omogućuje otvaranje telefona licem.

Ahmer Inam, glavni službenik za umjetnu inteligenciju u Pacteri EDGE, rekao je da je većina negativnih reakcija prema maloprodajnoj upotrebi prepoznavanja lica rezultat toga što tvrtke nisu bile transparentne u pogledu toga kako ga koriste.

"Upotrebom pažljivog AI pristupa, moćan alat kao što je prepoznavanje lica može donijeti ogromne prednosti za potrošača - kao i za trgovca. Ali vrijednosti kao što su privatnost, transparentnost i etičko korištenje moraju biti na prvom mjestu tijekom izgradnje. To je nešto što smo vidjeli da učinkovito radi za naše prepoznavanje lica i druge AI projekte," rekao je Inam.

"Najveći izazov s kojim se trenutno suočava prepoznavanje lica je pristranost modela koja rezultira lažno pozitivnim rezultatima. Za trgovce se ne radi samo o izgradnji sustava temeljenog na prepoznavanju lica – već o tome koja je svrha i namjera." 

Inam je naveo više primjera korištenja prepoznavanja lica za poboljšanje maloprodajnog iskustva kao što je ono od CaliBurger, koja je pokrenula kioske koji koriste prepoznavanje lica za povezivanje narudžbi s kupcima.

Ali Seeley George je rekao da tvrtke usvajaju prepoznavanje lica u ime "pogodnosti" i "personalizacije", dok ignoriraju kako zloupotrebljavaju prava ljudi i dovode ih u opasnost.

"Trgovine koje koriste ili razmatraju korištenje prepoznavanja lica trebale bi obratiti pozornost na ovaj poziv od strane deseci vodećih organizacija za građanska prava i rasnu pravdu koje predstavljaju milijune ljudi", Seeley George rekao je.

"Prodavci bi se trebali obvezati da neće koristiti prepoznavanje lica u svojim trgovinama kako bismo mogli podržati njihovu odluku ili biti spremni na napad protivljenja."