Priprave na "zlato dobo" umetne inteligence in strojnega učenja

Lahko podjetja zaupajo odločitvam, ki umetna inteligenca in strojno učenje se pojavlja v vse večjem številu? Te odločitve potrebujejo več zavor in ravnovesij – vodje IT in strokovnjaki morajo zagotoviti, da je umetna inteligenca čim bolj poštena, nepristranska in natančna. To pomeni več usposabljanja in večje naložbe v podatkovne platforme. Nova raziskava vodstvenih delavcev IT, ki jo je izvedel ZDNet, je pokazala, da podjetja potrebujejo več podatkovnih inženirjev, podatkovnih znanstvenikov in razvijalcev, da bi dosegla te cilje.

Anketa je to potrdila AI in pobude za strojno upravljanje so v središču večine podjetij. Od avgusta, ko je ZDNet izvedel raziskavo, je imela skoraj polovica zastopanih podjetij (44 %) tehnologijo, ki temelji na AI, ki se aktivno razvija ali uvaja. Drugih 22 % je imelo projekte v razvoju. Prizadevanja na tem področju so še vedno nova in nastajajoča – 59 % anketiranih podjetij dela z umetno inteligenco manj kot tri leta. Anketiranci so vključevali vodilne delavce, direktorje informatike, tehnične direktorje, analitike/sistemske analitike, arhitekte podjetij, razvijalce in vodje projektov. Predstavljene panoge so vključevale tehnologijo, storitve, maloprodajo in finančne storitve. Velikosti podjetij so bile različne.

Swami Sivasubramanian, podpredsednik strojnega učenja pri Amazon Web Services, to imenuje "zlata doba" umetne inteligence in strojnega učenja. To je zato, ker ta tehnologija "postaja osrednji del podjetij po vsem svetu."

Ekipe IT prevzamejo neposredno vodstvo pri takšnih prizadevanjih, pri čemer večina podjetij gradi svoje sisteme v podjetju. Skoraj dve tretjini vprašanih, 63 %, poroča, da njihove sisteme umetne inteligence gradi in vzdržuje interno osebje IT. Skoraj polovica, 45 %, je prav tako naročena na storitve, povezane z umetno inteligenco, prek ponudnikov programske opreme kot storitve (SaaS). Drugih 30 % uporablja platformo kot storitev (PaaS), 28 % pa se obrne na zunanje svetovalce ali storitvena podjetja.

Direktorji za digitalne storitve, direktorji za podatke ali direktorji za analitiko običajno prevzamejo vodstvo pri AI in rezultate, ki temeljijo na strojnem strojnem jeziku, pri čemer je 50 % anketirancev opredelilo te vodstvene delavce kot glavne nosilce odločanja. Drugih 42 % jih pravi, da imajo v procesu vlogo posamezni vodje oddelkov, 33 % anketiranih organizacij pa ima korporativne odbore, ki izvajajo nadzor nad umetno inteligenco. Ena tretjina teh organizacij dodeli odgovornosti za AI in ML podatkovnim znanstvenikom in analitikom. Zanimivo je, da CIO in CTO tehtajo le 25 % podjetij anketirancev.

Hkrati pa umetna inteligenca ni v celoti prežela vsakodnevnih del IT strokovnjakov in drugih zaposlenih. Na primer, samo 14 % anketirancev je lahko reklo, da večina njihove IT delovne sile neposredno dela ali ima dostop do tehnologij umetne inteligence v svojih vsakodnevnih rutinah.

Izvedba je težka

"Uvedba rešitve umetne inteligence ni enostavna in obstaja veliko primerov, kjer je šlo umetna inteligenca narobe v proizvodnji," pravi Tripti Sethi, višji direktor pri Avanade. »Podjetja, za katera smo videli, da imajo največ koristi od umetne inteligence, razumejo, da umetna inteligenca ni orodje plug-and-play, temveč zmožnost, ki jo je treba spodbujati in dozorevati. Ta podjetja se sprašujejo, kakšno poslovno vrednost lahko dosežem s podatki? namesto "kaj lahko storijo moji podatki?"«

Razpoložljivost znanj in spretnosti je eno od vodilnih vprašanj, s katerimi se soočajo podjetja pri gradnji in vzdrževanju sistemov, ki jih poganja AI. Skoraj dve tretjini anketiranih podjetij, 62 %, je navedlo, da ne morejo najti talentov, ki bi ustrezali zahtevam po veščinah, ki so potrebne pri prizadevanjih za prehod na umetno inteligenco. Več kot polovica, 54 %, pravi, da je bilo težko uvesti umetno inteligenco v njihove obstoječe organizacijske kulture, 46 % pa jih opozarja na težave pri iskanju sredstev za programe, ki jih želijo izvajati.

Podatkovni inženiring je najbolj iskana veščina za podporo pobudam AI in ML, navedlo pa ga je 69 % anketirancev. Algoritmi AI in ML so dobri le toliko, kolikor so dobri podatki, ki so vanje vneseni, zato so zaposleni s strokovnim znanjem o podatkih bistveni pri potrjevanju, čiščenju in zagotavljanju odzivne dostave podatkov. Poleg podatkovnega inženiringa podjetja želijo, da podatkovni znanstveniki razvijajo podatkovne modele, razvijalci pa želijo, da gradijo algoritme in podporne aplikacije.

Skoraj polovica podjetij, 47 %, kupi razširitev zmogljivosti obdelave prek tretje osebe ali ponudnika v oblaku. To je vodilno področje nakupa strojne opreme na področju tehnologij. Le 11 % podjetij kupi strojno opremo ali sisteme za implementacije na kraju samem. Vsaj 42 % jih dela z napravami in omrežji interneta stvari (IoT), ki podpirajo njihova prizadevanja v zvezi z umetno inteligenco. Kar zadeva programsko opremo, povezano z umetno inteligenco, jih 47 % dela z analitičnimi mehanizmi, kot je Apache Spark. Drugih 42 % jih dela s platformami za gručenje velikih podatkov, kot je Hadoop, 42 % pa jih uporablja napredne baze podatkov.

»Za mnoge novejše uporabnike analitika ni veščina, ki jo imajo, kar ima za posledico zunanje izvajanje kot izvedljivo alternativo,« pravi David Tareen, direktor AI in analitike za SAS. Na primer, uveljavljene in dobro razumljene analitične funkcije lahko zahtevajo zunanjo pomoč za "mikro ciljanje, iskanje goljufivih transakcij." Tareen pravi, da lahko novi projekti, ki zahtevajo nove vire podatkov ter inovativno in napredno analitiko in metode umetne inteligence, vključujejo računalniški vid ali pogovorno AI. »Projekt zahteva popolno transparentnost glede algoritemskih odločitev. Tovrstne projekte je težje izvesti, ponujajo pa tudi nove vire prihodkov in edinstveno diferenciacijo."

pristranskost AI

V zadnjih mesecih in letih je bila pristranskost AI na naslovnicah, kar kaže na to, da algoritmi AI krepijo rasizem in seksizem. Poleg tega zanašanje na umetno inteligenco uvaja dejavnik zaupanja, saj lahko vodje podjetij ključno odločanje prepuščajo nenadzorovanim sistemom. Kako daleč so prizadevanja podjetij za doseganje poštenosti in odpravo pristranskosti v rezultatih umetne inteligence? Podatki kažejo, da niso tako daleč, saj je 41 % anketirancev navedlo, da je malo, če sploh, preverjanja njihovih rezultatov umetne inteligence ali pa preprosto ne vedo, ali se takšna preverjanja izvajajo. Le 17 % jih je navedlo, da stalno preverjajo rezultate umetne inteligence. Poleg tega 58 % organizacij tehnologom še ne zagotavlja usposabljanja o etiki umetne inteligence ali preprosto ne vedo, ali je tako usposabljanje na voljo.

Ali podjetja storijo dovolj, da redno pregledujejo svoje rezultate AI? Kateri je najboljši način za to? "Celoviti pregled AI zahteva večplasten pristop," pravi Kimberly Nevala, strateški svetovalec za AI pri SAS. "Podatke, delovno okolje, algoritem in poslovne rezultate je treba redno ocenjevati tako pred kot med razvojem in uvajanjem rešitve. To zahteva vključitev številnih disciplin, vključno z upravljanjem poslovnih procesov/zmogljivosti, upravljanjem podatkov, upravljanjem modelov, varnostjo, IT operacijami, tveganjem in pravom. Številna podjetja dobro poslujejo z diskretnimi komponentami, le malo pa jih zagotavlja robustno in celovito pokritost. Ne zato, ker ne bi prepoznali potrebe, ampak zato, ker je zapleteno."

58 % organizacij tehnologom še ne nudi usposabljanja o etiki umetne inteligence ali preprosto ne vedo, ali je takšno usposabljanje na voljo.

V mnogih primerih, zlasti v zelo reguliranih panogah, "večina zahtevanih praks obstaja", je dejal Nevala. "Vendar pa proti analitičnim sistemom niso bili uporabljeni na usklajen način. Še pogosteje so pregledi omejeni na preglede v določenem trenutku – profiliranje podatkov o usposabljanju, potrjevanje delovanja modela med testiranjem ali periodično poročanje o poslovnih rezultatih.«

Vendar obstajajo ukrepi za boj proti pristranskosti, ki so uspešni. "Napake v podatkih je mogoče prepoznati z uporabo običajnih tehnik in metod analize podatkov, da bi razložili osnovno logiko nekaterih obstoječih algoritmov," je dejal Nevala. "Strogo testiranje lahko razkrije skrite pristranskosti, kot je algoritem zaposlovanja, ki izloči vse ženske. Čeprav so organizacije še vedno v povojih, postajajo vse boljše pri iskanju in prepoznavanju pristranskosti."

Vendar je vprašanje odločanje o tem, ali je določena pristranskost poštena ali ne, nadaljuje Nevala. "Tu nastopi pravičnost. Poleg tega nepristranski sistem morda ni pravičen, pravičen sistem pa je lahko pristranski – pogosto po zasnovi. Torej, kaj je pravično? Ali stremite k pravičnosti ali enakosti? Ali imajo predvideni uporabniki enak dostop ali možnost uporabe rešitve? Ali se bo človeški predmet rešitve strinjal, da je poštena? Je to nekaj, kar bi sploh morali početi? Na ta vprašanja tehnologija ne more odgovoriti. Obravnavanje pravičnosti in pristranskosti v umetni inteligenci zahteva raznolike skupine deležnikov in modele sodelovalnega združevanja. Takšni modeli organizacij se pojavljajo, vendar še niso norma."

"Vodje IT nedvomno potrebujejo več usposabljanja in ozaveščenosti o pristranskosti v resničnem svetu in umetni inteligenci," zagovarja dr. Michael Feindt, soustanovitelj in strateški svetovalec podjetja Blue Yonder. »Ker je svet sam po sebi neuravnotežen, so podatki, ki odražajo trenutni svet in človeške odločitve, seveda pristranski. Dokler vodje IT in osebje ne bodo prevzeli odgovornosti za nezavedno pristranskost svoje programske opreme AI, AI ne bo obravnaval diskriminacije, še posebej, če se pri tem zanaša le na zgodovinske človeške ali diskriminatorne dokaze odločitve. Eksplicitno zmanjševanje pristranskosti v zgodovinskih podatkih in uporaba sam po sebi poštenih algoritmov umetne inteligence ima zelo močno orožje v boju proti diskriminaciji."

Proces mora biti odprt in na voljo vsem odločevalcem znotraj in zunaj IT. Ustvarjanje odgovorne umetne inteligence "zahteva posebna orodja in podporni proces upravljanja za uravnoteženje kompromise med koristjo in tveganjem,« pravi Kathleen Featheringham, direktorica strategije umetne inteligence. pri Booz Allenu. "To so temeljni elementi, ki so potrebni za uveljavitev načel in vrednot odgovorne umetne inteligence v praksi. Organizacije morajo biti sposobne dati vse podatke na voljo v opisni obliki, da se lahko nenehno posodabljajo s spremembami in uporabami, ki drugim omogočajo raziskovanje potencialne pristranskosti, ki vključuje postopek zbiranja podatkov. To je kritičen korak za pomoč pri identifikaciji in kategorizaciji prvotno predvidene uporabe modela. Dokler tega ne storijo vse organizacije, ne moremo odpraviti pristranskosti."

Obstaja več načinov, na katere lahko vodje IT in zagovorniki umetne inteligence pomagajo pri reševanju težav z delovanjem in odgovornostjo pri umetni inteligenci. 70 % si prizadeva za pristope stalne integracije/nenehne uvedbe (CI/CD) pri delu z umetno inteligenco in strojnim pranjem, da zagotavlja stalne preglede sestave algoritmov, povezanih aplikacij in podatkov, ki gredo skozi njim. DevOps – ki usklajuje in avtomatizira dejavnosti razvijalcev in operativnih skupin – je viden v 61 % organizacij. AIOps – za umetno inteligenco za operacije IT in zasnovan za uporabo umetne inteligence za upravljanje pobud IT – se uporablja v več kot polovici podjetij v raziskavi (52 %). DataOps, namenjen upravljanju in avtomatizaciji pretoka podatkov v analitične platforme, je v uporabi pri 44 % organizacij, prav tako kot agilni računalniški pristopi, ki jih uporablja 43 %.

Zlasti AIOps je zmogljiva metodologija za zagotavljanje zmogljivosti AI v kompleksnem podjetju s številnimi različnimi načrti in zahtevami. »Uspešen prenos pilotnih projektov v delovanje zahteva, da o sprejetju in uvajanju razmišljamo celostno in podjetniške perspektive,« pravi Justin Neroda, podpredsednik podjetja Booz Allen, ki podpira več kot 120 aktivnih AI. projekti. »Ustvarili smo inženirski okvir AIOps, osredotočen na kritične elemente, potrebne za premagovanje izzivov po pilotiranju odgovornega razvoja umetne inteligence. AIOps lahko organizaciji prinesejo številne tehnične prednosti, vključno z zmanjšanjem bremena vzdrževanja posameznih analitikov, hkrati pa povečajo produktivnost in zadovoljstvo strokovnjakov za predmet. Ta pristop spodbuja zmožnost hitre uvedbe vnaprej konfiguriranih cevovodov AIOps v različnih okoljih. Omogoča avtomatizacijo procesov sledenja modelom, ustvarjanja različic in spremljanja v celotnem razvoju, testiranju in uporabi modelov AI."

Metodologije MLOps

S temi metodologijami je povezan MLOps, ki ga Chris McClean, direktor in globalni vodja za digitalno etiko pri Avanade zagovarja kot pot za uvajanje in vzdrževanje modelov strojnega učenja v proizvodnji učinkovito. "Metodologije MLOps se ne le izognejo pogostim napakam, ki smo jih opazili pri drugih podjetjih, ampak vzpostavijo organizacijo za prihodnost, polno neprekinjenega uspešnega uvajanja umetne inteligence," pravi McClean. Prav tako zagovarja obsežno uporabo avtomatizacije in orodij za avtomatizacijo "za boljše merjenje in izboljšanje KPI-jev."

Strokovnjaki iz industrije navajajo naslednje korake do uspešne poti AI in ML, ki zagotavlja zaupanje in sposobnost preživetja pri zagotavljanju rezultatov:

• Osredotočite se na poslovni problem: "Poiščite mesta, kjer je že veliko neizkoriščenih podatkov," pravi Sivasubramanian. "Izogibajte se popravljanju nečesa, kar dejansko ni pokvarjeno, ali izbiri težave, ki je vpadljiva, vendar ima nejasno poslovno vrednost."
• Osredotočite se na podatke: Sethi priporoča sprejetje "moderne podatkovne platforme" za oskrbo z gorivom, ki omogoča delovanje AI in ML. »Nekatera ključna področja, za katera smo videli, da so stranke začele svojo pot z umetno inteligenco, so optimizacija prodaje, analitika poti strank in spremljanje sistema. Za nadaljnje spodbujanje obsega in dostopnosti podatkov je vzpostavitev temeljne podatkovne platforme ključni element, saj odklepa strukturirane in nestrukturirane podatke in poganjajo te temeljne primere uporabe." Poleg tega lahko upravljanje podatkov ekipam za umetno inteligenco vzame večino časa, pravi Sivasubramanian. "Ko začnete, si morate zastaviti tri najpomembnejša vprašanja: Kateri podatki so danes na voljo? Kateri podatki so lahko na voljo? In čez eno leto, katere podatke si bomo želeli, da bi jih začeli zbirati danes?"
• Tesno sodelujte s podjetjem: »IT zagotavlja infrastrukturo za modeliranje podatkov, medtem ko strokovnjaki za posamezne zadeve uporabljajo modele za iskanje pravih rešitev,« pravi Arthur Hu, višji podpredsednik in CIO pri Lenovo. "To je analogno receptu: ne gre za eno samo sestavino ali celo za vse sestavine; potrebno je pravo ravnovesje sestavin, ki delujejo skupaj, da dosežemo želeni rezultat. Ključ do zagotavljanja, da se umetna inteligenca uporablja pošteno in nepristransko, je enak ključ do njenega uspeha: ljudje usmerjajo smer. Preboji umetne inteligence so mogoči samo zato, ker jih vodijo strokovnjaki na svojih področjih."
• "Pazite na "odnašanje" AI: Redno pregledovanje rezultatov in uspešnosti modela "je najboljša praksa, ki bi jo morala podjetja izvajati rutinsko," pravi Sivasubramanian. "Pomembno je redno pregledovati delovanje modela, ker se lahko njihova natančnost sčasoma poslabša, pojav, znan kot odmik modela." Poleg odkrivanja modela in koncepta, "morajo podjetja tudi preveriti, ali se je morebitna pristranskost morda razvila sčasoma v modelu, ki je že bil usposobljen," Sivasubramanian pravi. "To se lahko zgodi, čeprav začetni podatki in model niso bili pristranski, vendar spremembe v svetu povzročajo pristranskost razvijajo sčasoma." Demografski premiki v vzorčeni populaciji lahko povzročijo na primer zastarele rezultate.
• Razvijte svojo ekipo: Obsežno usposabljanje "je ključni vidik doseganja odgovorne umetne inteligence, ki združuje sprejemanje umetne inteligence, etiko umetne inteligence in razvoj delovne sile," pravi Featheringham. »Etičen in odgovoren razvoj in uvajanje umetne inteligence sta odvisna od ljudi, ki prispevajo k njenemu sprejemanju, integraciji in uporabi. Ljudje so v središču vsakega sistema umetne inteligence in bi morali ohraniti končni nadzor, zato je njihova pravica usposabljanje na vsaki vodstveni ravni je ključnega pomena." To vključuje dobro osredotočeno usposabljanje in ozaveščenost, pravi McClean. »Vodje in osebje IT bi se morali naučiti upoštevati etične vplive tehnologije, ki jo razvijajo ali upravljajo. Prav tako bi morali biti sposobni artikulirati, kako njihova tehnologija podpira vrednote podjetja, ne glede na to vrednote so raznolikost in vključenost, dobro počutje zaposlenih, zadovoljstvo strank ali okolje odgovornost. Podjetja ne potrebujejo, da se vsi naučijo, kako prepoznati in obravnavati pristranskost umetne inteligence ali kako napisati politiko pravičnosti umetne inteligence. Namesto tega morajo vsi razumeti, da so to prednostne naloge podjetja in da ima vsaka oseba svojo vlogo, če želi uspeti."

Navsezadnje "ustvarjanje rešitev AI, ki delujejo za ljudi, zahteva tudi razumevanje, kako ljudje delujejo," pravi Nevala. "Kako lahko ljudje, ki se ukvarjajo s sistemi AI, vplivajo na svoje vedenje in delovanje? In obratno. Tudi kritično razmišljanje, premagovanje negotovosti in produktivno sodelovanje so podcenjene, a ključne veščine."