Tehnologija prepoznavanja lica možda je još uvijek u povojima, ali je u punoj snazi uvode neke jurisdikcije diljem svijeta - bez obzira jesmo li mi spremni ili ne.
Kada je policija Queenslanda (QPS) uvela prepoznavanje lica za Igre Commonwealtha u Gold Coastu, namjeravalo se zadržati paziti na određene ciljeve visokog prioriteta, osim što je sustav bio toliko nesofisticiran da je na kraju korišten za opće policijski rad.
Povjerenik za privatnost Queenslanda Philip Green objasnio je da zbog saveznog zakona koji nije donesen na vrijeme za Gold Coast Commonwealth Games, QPS nije mogao unijeti podatke iz drugih baza podataka, što je ograničilo upotrebu sustava nadzora na jedan na jedan podudaranje.
"Glavna zapreka Queenslandu korištenju tog sustava bila je savezna vlada. Ali policija je koristila ograničenu bazu podataka slika koju je imala i možda je to ostavilo dojam da su sposobniji nego što zapravo jesu. Ne mislim da je bilo zlonamjerno. Mislim da je javnoj percepciji odgovaralo da se događa više nego što jest", rekao je za ZDNet.
Brian Lovell, profesor na Sveučilištu Queensland School of Information Technology and Electrical Engineering, opisao je vježbu kao "potpuni neuspjeh".
"Naizgled je izgledalo kao da [QPS] nešto radi, ali nisu uložili nikakav trud u implementaciju. Da biste to učinili ispravno, stvarno morate odlučiti gdje ćete postaviti svoje kamere, promijeniti lokaciju svojih kamera i imati dobru pozadinu infrastrukturu, tako da je to dosta ozbiljan projekt i ako to ne ugradite, dobijete sustav koji je potpuno neupotrebljiv", rekao je za ZDNet.
"Može se napraviti kako treba, ali većina ljudi želi to učiniti jeftino."
U obranu QPS-a, uvođenje softvera za prepoznavanje lica tijekom igara Commonwealtha bilo je "predstavnik policijske službe Queenslanda za rano usvajanje nove tehnologije u nastajanju", QPS rekao je glasnogovornik.
QPS je dodao da nastavlja istraživati potencijalnu upotrebu prepoznavanja lica.
"QPS održava vještine i kvalifikacije za poduzimanje ovog posla, uz stalni pristup jednoj od dvije baze podataka koje su korištene tijekom Igara Commonwealtha", rekao je glasnogovornik.
"Prepoznavanje lica je tehnologija u nastajanju, a vrijednost ove tehnologije od strane QPS-a u budućnosti predmet je stalnog pregleda i razmatranja kako se tehnologija razvija."
Ali ovakvi slučajevi nisu neuobičajeni. To je jedan od nekoliko primjera diljem svijeta koji postavljaju pitanja o potencijalnom orvelovskom puzanju opsega i invaziji na privatnost koju predstavlja tehnologija prepoznavanja lica.
Druga pitanja koja pokreće tehnologija prepoznavanja lica uključuju jesu li postojeće verzije tehnologije uopće dovoljno sofisticirane da se isprobaju, a kamoli da se uvedu. Moramo li osvježiti naše okvire politike u vezi s privatnošću kako bi odražavali takve tehnologije? Trebamo li biti oprezniji oko toga tko ima pristup tehnologiji, podacima koje koristi i prikuplja te kako se koristi?
Pitanja poput ovih nisu pretjerana niti nerazumna, kaže glavni izvršni direktor Electronics Frontiers Australia Lindsey Jackson, koji je upozorio da, iako je tehnologija eksperimentalan i atraktivan, nije u potpunosti promišljen, osobito kada se korištenje nadzora koristi protiv manjina ili ranjivih narod.
"Prepoznavanje lica možda je trenutačno popularna tehnologija, ali se vrlo brzo može pokvariti. Samo ne mislim da smo imali zrelu raspravu oko ovoga u ovom trenutku," rekla je za ZDNet.
Kao primjer ističe kako su vlasti u Xinjiangu, pograničnoj regiji na sjeverozapadu Kine, koristile tehnologiju prepoznavanja lica. Razumije se od početka 2017., tehnologija prepoznavanja lica koju je razvila Kina u državnom vlasništvu Tvrtka Electronics Technology (CETC) korištena je za praćenje i pritvaranje muslimanskih ujgurskih građana u Grad.
Ovu tvrdnju o kineskoj vladi iznio je Human Rights Watch kada je napisao [PDF] predsjedniku CETC-a u veljači 2019. s pitanjem je li svjestan kako Xinjiang koristi njegovu tehnologiju nadležnim tijelima, s pitanjima kao što je razumije li kako se njegova tehnologija koristi za identificiranje određenih "problematičnih" pojedinaca.
"Kritično ono što vidimo u Kini, imamo ovakvih problema i ovdje", upozorio je Jackson.
"U Australiji privatnost nije zaštićena kao temeljno pravo pojedinaca, a počeli smo viđati niz tehnologija i tehnika nadzora koje su počele utjecati na Australce.
"Zabrinjavajuće je kako se te tehnologije koriste ovdje u drugim zemljama, ali Australija nipošto nije čista i čista u svom usvajanju prepoznavanja lica."
Čitaj više: Budućnost rubnog računalstva i prepoznavanja lica (TechRepublic)
Sada su u ovom fijasku uhvaćena dva australska sveučilišta: Sveučilište tehnologije Sydney i Sveučilište Curtin.
Izvješće ABC-a Četiri ugla otkrio kako postoji petogodišnje partnerstvo između UTS-a i CETC-a vrijedno 10 milijuna AU$.
Kao rezultat toga, UTS sada istražuje svoje partnerstvo s CETC-om, ali je potvrdio da nijedno istraživanje Kineska je tvrtka koristila rezultate partnerstva za snimanje kretanja Ujgura građana.
"Unatoč tome, UTS će razmotriti moguće buduće aplikacije kao dio svoje revizije. UTS u ovoj fazi nema planova za novi rad s CETC-om i procijenit će trenutne ugovorne sporazume u svjetlu revizije", priopćilo je sveučilište.
Sličan odgovor dalo je Sveučilište Curtin, a prorektorica Deborah Terry rekla je u izjavi da "Sveučilištu Curtin nisu prikazani dokazi da su Kinezi koristili objavljeno istraživanje vlada".
Terry je dodao da Sveučilište "nedvosmisleno osuđuje korištenje umjetne inteligencije, uključujući tehnologiju prepoznavanja lica, za bilo koje oblik etničkog profiliranja za negativan utjecaj ili progon bilo koje osobe ili skupine" i "snažno podržavaju inicijative za reguliranje upotrebe umjetna inteligencija, uključujući njezinu primjenu na prepoznavanje lica, radi zaštite prava na privatnost i održavanja etičkog standardi".
Članica uprave Digital Rights Watcha Lily Ryan također je kritizirala tehnologiju za koju se pokazalo da generira samo lažne rezultate, komplikacije i druge pogreške.
"Postoji ozbiljan nedostatak snažnih mehanizama nadzora i opće provedbe ljudskih prava i građanskih sloboda u ovom zemlje, što rezultira razumljivim oprezom javnosti oko davanja više informacija vladi na prvom mjestu," rekla je.
"Kada pojedinci sklope ugovor s vladinom agencijom koji uključuje njihove osobne podatke, oni trebaju imati pravo razumjeti, biti informirani i imati pravo glasa o tome gdje se te informacije drže i što se koriste za."
"Iznad svega, treba im dati pravi, informirani izbor o tome hoće li dati svoja prava na privatnost - a ne biti prisiljeni da ih predaju u zamjenu za državne usluge."
Uzmicanje, polako
Potencijalni rizik oko ove tehnologije prepoznat je od strane brojnih jurisdikcija u SAD-u, kao što su San Francisco i Oakland u Kaliforniji i Somervilleu u Massachusettsu koji su gradskim odjelima, uključujući policiju, zabranili korištenje tehnologije prepoznavanja lica.
Nedavno je Gradsko vijeće Orlanda donijelo odluku da ukinuti sva daljnja ispitivanja Amazonove tehnologije prepoznavanja lica u stvarnom vremenu, pod nazivom Rekognition, ubrzo nakon što je završio drugu fazu svog dvofaznog pilot programa.
Tijekom ispitivanja, tehnologija je bila zahvaćena problemima oko tehničkih kašnjenja, propusnosti i neizvjesnosti radi li tehnologija skeniranja lica, Tjednik Orlando prijavio.
Zabrinutost oko Amazonove tehnologije također je izrazilo više od tri tuceta organizacija za građanska prava, predvođenih Američkom unijom za građanske slobode (ACL), koja zahtijevao od Amazona da prestane opskrbivši vladine agencije tehnologijom prepoznavanja lica u svibnju prošle godine.
Tvrtka bi trebala "skinuti Rekognition sa stola za vlade", stoji u pismu izvršnom direktoru Amazona Jeffu Bezos, koji su potpisale skupine uključujući Electronic Frontier Foundation, Human Rights Watch i Data for Black živote.
“Ljudi bi trebali imati slobodu hodati ulicom, a da ih vlada ne promatra. Prepoznavanje lica u američkim zajednicama ugrožava tu slobodu."
Sličan poziv uputili su i zaposlenici Amazona, koji napisao je u zasebnom pismu Bezosu tražeći od njega da otkaže prodaju Amazonovog softvera za prepoznavanje lica Rekognition policiji, i šire da zauzme etički stav o tome kako se njegova tehnologija koristi.
Za NEC Australia, tvrtku koja ima već dugo u igri biometrijske tehnologije, surađuje samo s vladama ili privatnim subjektima koji se pridržavaju zakona o privatnosti i djeluju etički.
"Kompromis u prikupljanju informacija i podataka mora biti uravnotežen stvaranjem društvenih podataka. Zlouporaba osobnih podataka koja bi mogla narušiti pravo pojedinca na privatnost bez legitimnog razloga (i gdje postoji nije kriminalna istraga ili sigurnosni problem) nije nešto što bi NEC oprostio ili podržao", rekao je glasnogovornik tvrtke ZDNet.
Pomak Australije prema prepoznavanju lica
Unatoč sve većim pozivima zagovornika ljudskih prava, pobornika privatnosti i industrije koji osuđuju način na koji prepoznavanje lica koristi se tehnologija i uplitanje koje ona ima u privatnost pojedinca, australska vlada nastavlja gurati naprijed njegov zaprosio Prijedlog zakona o uslugama uspoređivanja identiteta iz 2018.
Ako se usvoji, zakon će Ministarstvu unutarnjih poslova dati zakonsko ovlaštenje za prikupljanje, korištenje i otkrivanje podataka koji se mogu identificirati informacija za upravljanje središnjim središtem sustava za prepoznavanje lica koji bi povezivao sustave za uspoređivanje identiteta između državnih agencije.
Inicijativa za cijelu Australiju omogućila bi državnim i teritorijalnim agencijama za provođenje zakona pristup nove državne usluge usklađivanja lica za pristup slikama putovnice, vize, državljanstva i vozačke dozvole od drugih jurisdikcije.
Inicijativa bi se sastojala od dva dijela: usluge provjere lica (FVS), koja je usluga provjere temeljena na slici jedan na jedan koja može usporediti nečiju fotografiju sa slikom u jednom od državnih zapisa, dok je usluga identifikacije lica (FIS) jedan prema više, usluga identifikacije temeljena na slikama koja može usporediti fotografiju nepoznate osobe s više državnih zapisa kako bi se lakše utvrdilo njihovo identitet.
Postavljanje granica
Iako uvođenje tehnologije prepoznavanja lica možda i nije toliko loše kako se čini, rekao je Lovell.
Lovell je ukazao na to kako ljude, na primjer, ne smeta upotreba tehnologije prepoznavanja lica u međunarodnim zračnim lukama u Australiji.
“Nije veliki problem na graničnoj kontroli i oko toga nema velike brige. Za većinu nas ogromna je prednost koristiti prepoznavanje lica na granicama jer je mnogo brže", rekao je.
“Ljudi brinu stvari koje trenutno ne postoje. Oni su sve što bi se potencijalno moglo dogoditi, a nama nije toliko poznato."
Objasnio je kako bi ljudi prirodno prihvatili javni nadzor ako bi oni osobno imali koristi od njega na neki način, bilo da to znači dobiti od njegove pogodnosti ili zarađivati novac.
"Problem s javnim nadzorom danas je što ljudi misle da za to ne dobivaju ništa, osim invazije na moju privatnost", rekao je.
Čitaj više: Tehnologija prepoznavanja lica druge generacije ima za cilj poboljšati biometrijsku sigurnost (TechRepublic)
U isto vrijeme, prepoznavanje lica moglo bi funkcionirati ako bi se svi pridržavali implicitnog ugovora koji postoji s nadzorom, objasnio je Lovell.
“Ako koristite nadzor i kažete da je to u svrhu javne sigurnosti, ali onda ono što su snimile kamere počnete koristiti u drugu svrhu, tu morate biti oprezni. To je kao da kažete da se videi mogu koristiti za mnoge stvari, ali pitanje je koristite li ih za nešto za što nema pristanka."
NEC Australia je naglasio da deidentificiranje, šifriranje i sigurno pohranjivanje podataka može pomoći u zaštiti individualnih prava na privatnost kada se koristi tehnologija prepoznavanja lica. Tvrtka je također naglasila važnost da se nepotrebni biometrijski predlošci ne prikupljaju i pohranjuju.
Međutim, Lindsey Jackson iz EFA-e rekla je da će uvijek postojati formalni politički okvir za prepoznavanje lica prilika za vladu i privatnu industriju da iskoriste tehnologiju u vlastitu korist - ili još gore, da je iskoriste u još zločestijim slučajevima načine.
"U nedostatku bilo kakvih zakona, propisa ili zaštite temeljene na pravima, australski se ljudi nemaju na što oduprijeti. Ne postoje granice kada je ovo u pitanju; to su lica ljudi", rekla je.
"Ne postoji informirani pristanak; nema uključivanja, nema isključivanja. Mogli bismo ići puno dalje prije nego što javnost i vlada počnu voditi snažne i kritičke razgovore o tome kamo ide ova tehnologija."
Povezano pokrivanje
NEC Australia tuži ACIC na sudu zbog projekta biometrijske identifikacije
ACIC je otkazao isporuku projekta usluga biometrijske identifikacije u lipnju 2018., nakon što je sustav uvelike izgrađen i testiranje je već bilo u tijeku.
Visa: Industrija plaćanja uskoro će odbaciti lozinke za biometriju
Napredak u autentifikaciji i tehnologijama protiv prijevare već čini metode "statične" provjere vlasnika kartice (CVM) opcionalnima.
NSW gleda na biometrijska plaćanja i pretplate na javni prijevoz poput Netflixa
Plaćanje prijevoza poput kupovine na Amazon Go i 'smrt' voznog reda kao 'mobilnosti kao usluge' postaje novi način putovanja u Sydneyju.
NSW gleda na biometrijska plaćanja i pretplate na javni prijevoz poput Netflixa
Plaćanje prijevoza poput kupovine na Amazon Go i 'smrt' voznog reda kao 'mobilnosti kao usluge' postaje novi način putovanja u Sydneyju.
Biometrija, CDR, porez na širokopojasni internet: svi računi koje Canberra želi ponovno podgrijati 2019.
Savezna vlada se nada da će svoj okvir za usklađivanje identiteta, pravo na podatke potrošača i pregršt drugih zakona usvojiti do kraja godine.