AI: Prepoved algoritmov, ki ogrožajo naše človekove pravice, pravi vodja ZN

Pozivi k zaviranju uporaba umetne inteligence in v nekaterih primerih popolna prepoved tehnologije postajajo vse glasnejši. Zdaj se je vodja ZN za človekove pravice Michelle Bachelet pridružila zboru strokovnjakov, ki pozivajo vlade, naj sprejmejo odločnejše ukrepe za ohranjanje algoritmov pod nadzorom v novo poročilo, ki priporoča moratorij na prodajo in uporabo umetne inteligence za primere uporabe z visokim tveganjem.

Bacheletova se je tudi zavzela za prepoved nekaterih aplikacij umetne inteligence, ki so v nasprotju z mednarodnim pravom o človekovih pravicah, kot je socialno točkovanje posameznikov na podlagi diskriminatornih meril.

Ker zaščitni ukrepi še niso vzpostavljeni, da bi zagotovili odgovorno uporabo tehnologije, je dejal komisar ZN, bi morale vlade nujno zajeziti umetno inteligenco. Brez tega se bodo algoritmi, ki so potencialno škodljivi za človekove pravice, še naprej uporabljali brez nadzora, kar bo povzročilo večjo škodo državljanom.

GLEJ: Če v svoje možgane vstavimo računalnike, se nam lahko zgodijo čudne stvari

Algoritmi so že prisotni v vseh vidikih življenja večine ljudi, je poudarila Bacheletova in opozorila na različne sisteme, trenutno sodeluje pri odločitvah, ki spreminjajo življenje, na primer, kdo dobi javne storitve, kdo dobi službo ali kaj lahko uporabniki vidijo in delijo na spletu.

»Ne moremo si privoščiti, da bi še naprej dohitevali umetno inteligenco – dovolili njeno uporabo z omejenimi mejami ali brez njih. ali nadzor in spopadanje s skoraj neizogibnimi posledicami za človekove pravice po dejstvu,« je dejala Bacheletova.

Komentarji komisarke ZN izhajajo iz poročila, ki ga je za preiskavo pripravil njen urad kako lahko umetna inteligenca vpliva na človekove pravice, kot so zasebnost, zdravje, izobraževanje, svoboda gibanja ali svoboda izražanje.

Medtem ko se je izkazalo, da je umetna inteligenca v veliki meri "moč dobrega", ki lahko pomaga družbam in gospodarstvom premagati ogromne izzive, je poročilo poudarilo tudi "nesporen in vztrajno naraščajoč" vpliv umetne inteligence na določene ljudi pravice.

Algoritmi lahko na primer močno posegajo v zasebnost uporabnikov. Sistemi umetne inteligence se hranijo z velikimi količinami podatkov, vključno z osebnimi podatki, kar organizacije spodbuja k zbirajo, shranjujejo in obdelujejo občutljive podatke o svojih uporabnikih ali strankah, včasih tudi tajno načine. Sisteme je mogoče uporabiti za napovedovanje osebnih življenj ljudi, od soseske, v kateri živijo, do vzorcev spanja.

Glede na poročilo obstaja več sektorjev, kjer je uporaba teh sistemov umetne inteligence še posebej zaskrbljujoča. Vključujejo organe pregona, kjer lahko algoritmi vplivajo na odločitev o aretaciji kriminalca, pa tudi javne službe, kjer Modeli umetne inteligence lahko pomagajo določiti pravice do socialne pomoči vse do tega, ali je treba družino označiti za obiske otroškega varstva storitve.

Na delovnem mestu je poročilo opozorilo na tveganje uporabe algoritmov za spremljanje in upravljanje delavcev. Na spletu pa se lahko sistemi umetne inteligence uporabljajo za podporo odločitvam o upravljanju vsebine, kar je pomembno pri odločanju o vrsti vsebine, ki ji je vsak uporabnik izpostavljen.

Pri mnogih od teh aplikacij je tveganje dvojno. Ne samo, da je lahko sam sistem umetne inteligence v nasprotju z osnovnimi človekovimi pravicami, kot je pravica do zasebnosti; toda v nekaterih primerih, ko je algoritem pristranski, lahko tehnologija sprejme tudi diskriminatorne odločitve.

Na primer, podatki, ki se uporabljajo za obveščanje sistemov umetne inteligence, so lahko pristranski proti določenim skupinam ali pa bi preprosto napačno, zastarelo ali nepomembno, zaradi česar so algoritmi nepošteni odločitve. Tako je na primer algoritem, ki so ga lani uporabljali za napovedovanje ocen študentov v Veliki Britaniji na koncu dodelil višje ocene tistim, ki živijo v bogatejših območjih.

GLEJ: Ne želite, da vas vdrejo? Potem se izognite tem trem "izjemno nevarnim" napakam na področju kibernetske varnosti

Dovolj je primerov, ko modeli AI sprejemajo škodljive – in včasih povsem napačne – odločitve, da vas skrbi. "Tveganje diskriminacije, povezano z odločitvami, ki jih vodi umetna inteligenca – odločitvami, ki lahko spremenijo, definirajo ali poškodujejo človeška življenja – je preveč realno. Zato je potrebno sistematično ocenjevanje in spremljanje učinkov sistemov umetne inteligence za prepoznavanje in ublažitev tveganj za človekove pravice,« je dejala Bacheletova.

Poročilo ZN je opozorilo zlasti na uporabo algoritmov s strani držav za namene nadzora in zlasti biometričnih tehnologij. kot je prepoznavanje obraza, ki se uporablja za identifikacijo ljudi v realnem času in na daljavo, s potencialom, da omogoči neomejeno sledenje posamezniki.

Moratorij na uporabo biometričnih tehnologij v javnih prostorih bi moral veljati, piše v poročilu, dokler ni dokazal, da ni težav z natančnostjo algoritma in da sistem nima diskriminatoren vpliv.

Zato je na vladah, da izvajajo prave zakone, da ohranijo razvoj orodij AI ki omogočajo nadzor in druge zlorabe človekovih pravic pod nadzorom, navajajo ZN komisar.

V začetku tega leta je na primer Komisija EU razkril osnutek pravil o umetni inteligenci, ki je katalogiziral aplikacije AI na podlagi različnih stopenj tveganja. Na vrhu piramide so bili primeri uporabe, ki prihajajo z "nesprejemljivim tveganjem", ki kršijo temeljne pravice in bi jih bilo treba prepovedati.

Evropska komisija je dejala, da bi bilo treba prepovedati uporabo prepoznave obraza v javnih prostorih, saj krši te pravice. Sodba pa je prišla z različnimi izjemami, ki so jih zagovorniške skupine obsodile, ker so dopuščale preveč vrzeli.