Systémy AI a strojového učenia sú len také dobré, aké dobré sú údaje, ktoré do nich dodávame. Staňte sa svedkami dopadu krízy COVID-19, ktorá vyradila z omylu mnohé algoritmy AI: „Ak sa má strojom dôverovať, musíme na ne dohliadať.“
Modely umelej inteligencie a strojového učenia môžu fungovať okázalo – kým nefungujú. Potom majú tendenciu veľkolepo zlyhať. To je ponaučenie z krízy COVID-19, as nahlásené v MIT Technology Review. Náhle, dramatické zmeny v spotrebiteľskom a B2B nákupnom správaní sú, ako povedal autor Will Douglas Heaven, „spôsobujúce čkanie pre algoritmy, ktoré bežia v zákulisí riadenia zásob, odhaľovania podvodov, marketingu a viac. Modely strojového učenia trénované na normálne ľudské správanie teraz zisťujú, že normálne sa zmenilo a niektoré už nefungujú tak, ako by mali.“
Modely strojového učenia „sú navrhnuté tak, aby reagovali na zmeny,“ pokračuje. „Ale väčšina je aj krehká; fungujú zle, keď sa vstupné údaje príliš líšia od údajov, na ktorých boli trénovaní. Je chybou predpokladať, že môžete nastaviť systém AI a odísť."
Je teda zrejmé, že môžeme byť trochu vzdialení od úplne samoriadiacich systémov, ak vôbec niekedy. Ak nám táto súčasná situácia niečo hovorí, tak to, že ľudské postrehy budú vždy podstatnou súčasťou rovnice AI a strojového učenia.
V posledných mesiacoch som s lídrami v tomto odvetví skúmal potenciálny rozsah AI a strojového učenia a akú úlohu musia zohrávať ľudia. Veľa z toho, čo som počul, predznamenalo prevrat COVID. „Vždy existuje riziko, že systém umelej inteligencie urobí zlé predpoklady, čo zníži výkon alebo dostupnosť údajov,“ hovorí Jason Phippen, vedúci globálneho marketingu produktov a riešení v spoločnosti SUSE. „Je tiež možné, že údaje odvodené zo zlých korelácií a učenia sa používajú na nesprávne obchodné rozhodnutia alebo rozhodnutia o liečbe. Ešte horší prípad by jednoznačne bol, keby systém mohol voľne bežať a presúva dáta do chladného alebo chladného úložiska, čo spôsobuje stratu života alebo končatín.“
Umelá inteligencia a strojové učenie sa jednoducho nedajú vložiť do existujúcej infraštruktúry alebo súboru procesov. Chris Bergh, generálny riaditeľ spoločnosti DataKitchenvaruje, že existujúce systémy je potrebné prispôsobiť a upraviť. „V tradičnej architektúre AI a systém strojového učenia spotrebúvajú dátové prostredia, aby splnili dátové potreby,“ hovorí. „Potrebujeme miernu zmenu tejto architektúry tým, že necháme AI spravovať dátové prostredie. Tento prechod sa musí uskutočniť hladko, aby sa predišlo katastrofálnym zlyhaniam v existujúcich systémoch a aby sa zaviedli robustné systémy."
Systémy AI a strojového učenia „vyvíjané na správu dátových prostredí sa musia považovať za kritické systémy a vývoj sa musí vykonávať veľmi opatrne,“ pokračuje Bergh. „Keďže dáta sú hybnou silou súčasných obchodných rozhodnutí, dátové prostredia budú srdcom podnikania. Preto aj malé zlyhanie v správe údajov spôsobí podniku značné náklady v dôsledku straty prevádzkového času, iných zdrojov a dôvery používateľov.“
Bergh tiež poukazuje na „vedomostné medzery dátových profesionálov a expertov na AI a strojové učenie v oblastiach AI a strojového učenia a správy údajov“.
Pointa je, že kvalifikovaní ľudia budú vždy kľúčom k riadeniu toku a zaisteniu kvality a včasnosti údajov dodávaných do systémov AI a strojového učenia. Mechanika správy údajov bude autonómna, ale kontext údajov si vyžaduje ľudské zapojenie. „Môžeme sa pozrieť na príklady ako autonómne autá a využitie energetickej optimalizácie dátových centier DeepMind v Google a buďte si celkom istí, že nakoniec budú existovať nejaké paralelné príležitosti v správe databáz,“ hovorí Erik Brown, senior riaditeľ pre technologickú prax West Monroe Partners, obchodno-technologická poradenská firma. „Plne autonómne databázy však budú v blízkej budúcnosti pravdepodobne napäté; Ľudská angažovanosť by sa mala stať strategickejšou a zameranou na oblasti, kde sú ľudia najlepšie vybavení na trávenie svojho času."
Dosiahnutie plne autonómnych dátových prostredí „bude pravdepodobne trvať mnoho rokov,“ súhlasí Jeremy Wortz, hlavný architekt v technologickej praxi West Monroe. „Strojové učenie má ďaleko od riešenia zložitých širokých problémov. Avšak prístup, ktorý rozvíja úzke a hlboké prípady použitia, bude časom znamenať rozdiel a odštartuje cestu samoriadiaceho systému. Väčšina organizácií môže použiť tento prístup, ale bude sa musieť uistiť, že majú spôsob, ako vymenovať úzke prípady použitia, so správnou technikou a talentom na realizáciu týchto prípadov použitia."
Čím viac organizácií závisí od AI, tým viac ľudí bude musieť zintenzívniť a dohliadať na údaje, ktoré sa presúvajú do týchto systémov, ako aj na poznatky, ktoré sa vytvárajú. Osemdesiat percent alebo viac úsilia v oblasti AI a strojového učenia „je často získavanie údajov, preklad, overovanie a príprava na zložité modely,“ hovorí Brown. "Keďže tieto modely informujú o kritickejších prípadoch obchodného použitia - odhaľovanie podvodov, riadenie životného cyklu pacienta - na správcov týchto údajov budú aj naďalej kladené väčšie nároky."
Len málo dátových prostredí mimo Google a Amazon na svete je skutočne pripravených, hovorí Brown. „Je to obrovská príležitosť na rast vo väčšine odvetví. Dáta existujú, ale kolaboratívne, medzifunkčné organizačné štruktúry a flexibilné dátové kanály nie sú pripravené na to, aby ich efektívne využili.“
Človek nemusí byť diplomovaný dátový vedec, aby mohol spravovať systémy AI – čo je potrebné, je záujem o učenie sa a využívanie nových techník. „Technológia poháňaná umelou inteligenciou podnecuje trend vedcov z oblasti občianskych údajov, ktorý mení hru,“ hovorí Alan Porter, riaditeľ produktového marketingu Nuxeo. „V minulosti si tieto roly vyžadovali hlboké technické znalosti a zručnosti v oblasti kódovania. Ale s pokrokom v technológii -- mnohé z nástrojov a systémov urobia ťažké technické zdvíhanie za vás. Nie je také dôležité, aby ľudia obsadzovali tieto pozície, aby mali technické znalosti, namiesto toho organizácie hľadajú ľudí, ktorí sú analytickejší so špecifickými obchodnými znalosťami.“
Hoci ľudia s technickými a kódovacími zručnosťami budú v organizáciách stále zohrávať kľúčovú úlohu, Porter pokračuje, „veľkým kúskom skladačky je teraz máme analytikov so špecifickými obchodnými znalosťami, aby mohli interpretovať zhromažďované informácie a pochopiť, ako zapadajú do obrázok. Analytici tiež musia byť dobrí v oznamovaní svojich zistení zainteresovaným stranám mimo analytického tímu, aby mohli uskutočniť zmenu.“
Heaven vo svojom diele z MIT dospel k záveru, že „so všetkým, čo súvisí, vplyv pandémie bol pociťovaný široko ďaleko, dotýkajúc sa mechanizmov, ktoré v typickejších časoch zostávajú skryté. Ak hľadáme striebornú hranicu, potom je čas zhodnotiť tieto novo vystavené systémy a opýtať sa, ako by mohli byť lepšie navrhnuté a odolnejšie. Ak sa má strojom dôverovať, musíme na ne dohliadať." Naozaj.