"Ali smo pripravljeni izključiti?" Tehnološki projekti so pod drobnogledom, saj se skrbi glede digitalne etike povečujejo

Koncept etične tehnologije se je vedno zdel bolj primeren za teoretične pogovore na konferencah sobe, zdaj pa naj bi postalo oprijemljiva – in finančna – prednostna naloga podjetij, ki razvijajo digitalno orodja.

Po mnenju tehnološkega analitika Gartnerja bo do leta 2024 svetovna poraba podatkov, ki temelji na zasebnosti bo tehnologija zaščite in skladnosti presegla 15 milijard dolarjev letno, saj bo digitalna etika vse bolj postajala top-of-mind.

Organizacije, ki se zavedajo zasebnosti, bodo vlagale v nove tehnologije, ki bolje preprečujejo škodo zaradi algoritmov, pravi Gartner, od homomorfnega šifriranja, ki omogoča algoritemsko računanje na šifriranih podatkih, do suverenega oblaka in sintetični podatki.

GLEJ: Priprave na "zlato dobo" umetne inteligence in strojnega učenja

To je posledica hitrega razvoja orodij umetne inteligence (AI), ki imajo lahko nenamerne posledice veliko večjega obsega kot prejšnje tehnologije, pravi Gartnerjev analitik Bart Willemsen. Ne glede na to, ali gre za pisanje besedil, vožnjo avtomobila ali pomoč pri kazenskih obsodbah, imajo orodja AI določeno stopnjo avtonomije, kar pomeni, da gredo resno narobe, ko gredo stvari narobe.

"Avtonomna narava umetne inteligence, obseg, v katerem lahko umetna inteligenca vpliva, hitrost, s katero lahko vpliv, pomeni, da je treba na nenačrtovane in neželene posledice pomisliti prej,« pravi Willemsen. ZDNet.

Gartner pravi, da bo etična razprava o morebitnih nepredvidenih posledicah orodja AI vedno bolj potekala pred in med uvedbo tehnologije in ne po njej.

Čeprav se ta strategija počasi pojavlja, je še daleč od tega, da bi dosegla večino podjetij. Zaenkrat podjetja, namesto da bi etiko vdelala neposredno v izdelek, da bi se izognila škodi v prihodnosti, še vedno čakajo na krizo, preden se popravijo.

Leta 2018 je moral na primer Amazon zavrzite orodje za avtomatizirano zaposlovanje potem ko je bilo javno razkrito, da je bilo ugotovljeno, da tehnologija diskriminira ženske. Leto kasneje je bil Goldman Sachs soočen s sondo zaradi trditev, da je bil kreditni algoritem podjetja pristranski glede na spol. In celo vlade so morale odstopiti od uporabe umetne inteligence: Ministrstvo Združenega kraljestva za izobraževanje je na primer pred kratkim umaknilo algoritem, ki študentom dodeljuje ocene po izkazalo se je, da daje prednost otrokom iz premožnejših šol.

»Zato se etično vprašanje premika k: Ali naj to sploh uporabimo? Če da, v kakšnem obsegu? In potem je tu še vprašanje, ki se ga do pred približno nekaj leti skorajda ni zastavljalo: Ali smo pripravljeni potegniti vtikač?" pravi Willemsen.

V nekaterih državah se zakoni razvijajo, da bi podjetja spodbudili, da si ta vprašanja zastavijo pred razvojem orodij AI in ne po njem. Toda tudi takrat pravni postopki sledijo znanemu reaktivnemu vzorcu.

Willemsen opozarja na najnovejše osnutke predpisov EU o umetni inteligenci, ki vključuje določbe, kot je prepoved uporabe umetne inteligence za družbeno ocenjevanje posameznikov – poskus izogibanja podvajanju kitajskega socialnega kreditnega sistema, pravi analitik – ali prepoved orodij AI, ki lahko vplivajo na vedenje posameznika oz. mnenje.

"Zame to samo pove: 'Videli smo Cambridge Analytico, zelo si želimo, da se to ne bi ponovilo,'" pravi Willemsen. "To je reakcija. Vsi vemo, od kod prihaja." 

Gartner pričakuje, da se bo več kot 80 % podjetij po vsem svetu soočilo z vsaj enim podatkom, osredotočenim na zasebnost. predpis o zaščiti do konca leta 2023 – in zakoni bodo še vedno imeli veliko vlogo pri zajezitvi škodljivih algoritmi. Da pa bi zagotovili, da orodja umetne inteligence ne bodo povzročila nove škode, bodo morala podjetja iti korak dlje od zakonov, namenjenih preprečevanju tega, kar se je že zgodilo v preteklosti.

GLEJ: Poročilo ugotavlja presenetljivo nezanimanje za etično in odgovorno uporabo umetne inteligence med voditelji podjetij

Willemsen predvideva tri različne pristope k digitalni etiki. Nekatera podjetja bodo preprosto vlagala, da se prepričajo, ali izpolnjujejo pravila; nekoliko bolj proaktivna podjetja pa bodo začela razmišljati o zmanjševanju tveganj.

"Recite, da se vozite po odprti cesti in vidite znak, ki pravi, da ne smete prekoračiti hitrosti 55 milj na uro," pravi Willemsen. "Etika skladnosti pomeni, da tempomat nastavite na 54 in zaprete oči. Zmanjšanje tveganja pomeni nenehno gledanje skozi vetrobransko steklo, kajti če se 3000 ljudi pred vami popolnoma ustavi v prometnem zastoju, pritisnete na zavoro." 

V obeh primerih pa je pristop reaktiven. Izvajanje prave digitalne etike bo zahtevalo še eno strategijo, pravi Willemsen: razmišljanje onkraj skladnosti, poskušanje vlivanja etična načela od samega začetka razvojnega procesa za tehnologijo umetne inteligence in ustvarjanje vrednosti prek njih načela. Gartner je optimističen, da je to pristop, ki postopoma postaja mainstream.

Seveda bomo še videli, ali podjetja, ki izvajajo digitalno etiko, vodi resnična želja, da bi tehnologijo naredili za dobro, ali pa se morajo izogibati javnemu in pravnemu odzivu. Z nenamernimi posledicami tehnologije, ki so resnejše narave, je tudi veliko močnejše javno negodovanje, ko algoritmi povzročajo škodo – in povzročanje takega protesta ni v nobenem poslu obresti.

"Še vedno vas vodijo vaši dobički in izgube ali pa humanistična perspektiva," pravi Willemsen. »Odvisno od organizacije. A kolikor vidim, je v večini primerov odločilen dejavnik rast." 

V obeh primerih je rezultat enak: podjetja se odmikajo od reaktivne skladnosti k proaktivni vgrajeni zasebnosti. Optimistična napoved, ki bi lahko prinesla velike družbene koristi.