8 måder at reducere AI-udbrændthed

Ansvarlig og etisk kunstig intelligens er blevet vores tids hot-button-spørgsmål, især da kunstig intelligens siver ind i alle aspekter af beslutningstagning og automatisering. Ifølge en nylig undersøgelse rapporterer 35% af virksomhederne nu bruge AI i deres virksomheder og 42 % udforsker teknologien.

Den samme undersøgelse foretaget af IBM finder, at tillid er ekstremt vigtigt - fire ud af fem adspurgte citerer at kunne forklare, hvordan deres AI nåede frem til en beslutning, der var vigtig for deres virksomhed.

Imidlertid er AI stadig kode - etaller og nuller. Det bærer ikke empati og mangler ofte kontekst, som jeg og min medforfatter

Andy Thurai, strateg med Constellation Research, forklaret i en nylig Harvard Business Review artikel.

Det har potentialet til at levere partiske og skadelige resultater. Efterhånden som AI bevæger sig opad i beslutningskæden - fra simple chatbots eller forudsigelig vedligeholdelse til at assistere udøvende eller medicinske beslutninger - skal der ske en opgørelse.

Også:De mennesker, der bygger kunstig intelligens, er dem, der har mest brug for AI

Det vil sige, at AI's udviklere, implementere, brugere og fortalere skal være i stand til at vise deres arbejde, forklare, hvordan beslutninger træffes, og være i stand til løbende at tilpasse sig nye scenarier.

Ansvarlig AI er dog ikke let. Det betyder pres - især på AI-hold. Som Melissa Heikkilä påpeger i MIT Technology Review, "Udbrændthed bliver mere og mere almindeligt i ansvarlige AI-hold." De største organisationer har "investeret i teams, der evaluerer, hvordan vores liv, samfund og politiske systemer påvirkes af den måde, disse systemer er designet, udviklet og implementeret." For små til mellemstore virksomheder og startups betyder det, at disse ansvarsområder falder hos udviklere, dataingeniører og data videnskabsmænd.

Resultatet - selv hos de største virksomheder - er, at "hold, der arbejder med ansvarlig AI, ofte overlades til sig selv," konstaterer Heikkilä. "Arbejdet kan være lige så psykologisk drænende som indholdsformidling. I sidste ende kan dette få folk i disse teams til at føle sig undervurderet, hvilket kan påvirke deres mentale sundhed og føre til udbrændthed."

Også:AI's sande mål er måske ikke længere intelligens

Hastigheden af ​​AI-adoption i de seneste år har øget presset til intense niveauer. AI har bevæget sig fra laboratoriet til produktionsniveauet "hurtigere end forventet i de sidste par år," siger Thurai, der har været en vokal fortaler for ansvarlig AI. Håndtering af ansvarlig AI "kunne være særligt drænende, hvis de er tvunget til at moderere indhold, beslutninger og data, der er partisk mod deres overbevisninger, synspunkter, meninger og kultur, mens de forsøger at opretholde en fin linje mellem neutralitet og deres overbevisninger. I betragtning af det faktum, at AI fungerer 24x7x365 og Beslutninger truffet af AI er nogle gange livsændrende begivenheder, forventes menneskene i løkken i disse områder at følge med i det, der kan føre til udbrændthed og udmattelse, hvilket kan føre til fejlbehæftede domme og beslutninger."

Love og regeringsførelse "har ikke indhentet AI," tilføjer han. "Kombineret med det faktum, at mange virksomheder ikke har ordentlige procedurer og retningslinjer for etisk AI og AI governance, gør denne proces endnu mere kompliceret."

Tilføj hertil potentielle udfordringer for AI-output fra domstole og retssystemer, "som begynder at pålægge store bøder og tvinge virksomheder til at omgøre deres beslutninger," siger han. "Dette er især stressende for de medarbejdere, der forsøger at håndhæve reglerne om AI-systemer."

Også:Kunstig intelligens: 5 innovative applikationer, der kan ændre alt

Støtte fra toppen mangler også, hvilket hænger sammen med stresset. EN undersøgelse af 1.000 ledere udgivet af MIT Sloan Management Review og Boston Consulting Group bekræfter. Imidlertid finder undersøgelsen, at mens de fleste ledere er enige om, at "ansvarlig AI er medvirkende til at afbøde teknologiens risici - herunder spørgsmål om sikkerhed, partiskhed, retfærdighed og privatliv - de erkendte en manglende prioritere det." 

Så hvordan løser AI-tilhængere, udviklere og analytikere problemerne med potentiel udbrændthed, en følelse af at kæmpe mod havets tidevand? Her er nogle måder at afbøde AI-induceret stress og udbrændthed:

• Hold virksomhedsledere opmærksomme på konsekvenserne af uansvarlig kunstig intelligens. Ufiltrerede AI-beslutninger og -output risikerer retssager, reguleringer og skadelige beslutninger. "Ledere skal se de etiske og ansvarlige AI-omkostninger ved udgifter som et middel til at forbedre deres virksomheds ansvar og risikostilling, snarere end et omkostningscenter," siger Thurai. "Selvom det at bruge færre penge nu kan forbedre deres bundlinje, ville selv et enkelt ansvar eller en domstolsdom overstige de besparelser, der ville komme fra disse investeringer."
• Skub efter passende ressourcer. Stress induceret af ansvarlige AI-anmeldelser er et nyt fænomen, der kræver genovervejelse af support. "Mange ressourcer til mental sundhed hos teknologivirksomheder er centreret om tidsstyring og balance mellem arbejde og privatliv, men der er behov for mere støtte til folk, der arbejder med følelsesmæssigt og psykologisk rystende emner," Heikkilä skriver.
• Arbejd tæt sammen med virksomheden for at sikre, at ansvarlig AI er en forretningsprioritet. "For hver virksomhed, der implementerer AI, skal der også være ansvarlig AI," siger Thurai. Han citerer MIT-BCG-undersøgelsen (nævnt ovenfor), der kun finder 19% af de virksomheder, der har AI som deres top strategiske prioritet, arbejder med ansvarlige AI-programmer. "Det burde være tæt på 100%," siger han. Ledere og medarbejdere skal opmuntres til at anvende holistisk beslutningstagning, der inkorporerer etik, moral og retfærdighed.
• Bed proaktivt om hjælp til ansvarlige AI-beslutninger. "Lad eksperter træffe de etiske AI-beslutninger i stedet for AI-ingeniører eller andre teknologier, der ikke er uddannet nok til at træffe sådanne beslutninger," siger Thurai.
• Hold mennesker i løkken. Sørg altid for off-ramper inden for AI-beslutningsprocessen. Vær fleksibel og åben over for systemredesign. En undersøgelse foretaget af SAS, Accenture Applied Intelligence, Intel og Forbes finder hver fjerde adspurgte indrømmer (PDF) de har været nødt til at genoverveje, redesigne eller tilsidesætte et AI-baseret system på grund af tvivlsomme eller utilfredsstillende resultater.
• Automatiser så meget som muligt. "AI handler om behandling i meget høj skala," siger Thurai. "Den manuelle proces med at validere input bias, datakvalitet og validering af resultater vil ikke fungere. Virksomheder bør implementere AI eller andre højskalaløsninger for at automatisere processen. Enhver undtagelse eller auditering kan udføres manuelt, men at lade mennesker udføre det højskala AI-arbejde vil føre til katastrofale resultater."
  
• Hold bias ude af data på forhånd. De data, der anvendes i træning af AI-modeller, kan indeholde implicit bias på grund af datasættenes begrænsninger. Data, der flyder ind i AI-systemer, bør være godt undersøgt.
• Valider AI-scenarier, før de går i produktion. Data, der går ind i AI-algoritmer, kan ændre sig fra dag til dag, og disse algoritmer skal testes konstant.

"Det er nemt i denne bipolar-biasede verden at kalde AI-truffet etiske beslutninger for at være falske af folk, der er uenige med det," siger Thurai. "Virksomheder bør være ekstra forsigtige med både gennemsigtighed i AI-beslutninger og den etik og ledelse, der anvendes. Forklarlig AI fra top til bund og gennemsigtighed er to vigtige elementer. Kombiner med regelmæssig revision for at evaluere og forløbe-korrekte handlinger og processer."