For en mere farlig alder, en lækker spyd af nuværende AI

I det meste af de sidste tres år blev en rig kritik af kunstig intelligens ivrigt fulgt, for det meste af insidere, folk, der enten praktiserede kunstig intelligens eller interesserede tilskuere, der var i nærheden.

Nu befinder verden sig i en mærkelig tilstand: Ligesom AI er blevet mainstream, dukker op overalt fra dit Instagram-feed til din smartphone stemmeassistent, mange af disse kritikere er gået tabt, da en generation af tænkere gik bort, folk som MIT-forskeren Marvin Minsky og UC Berkeley professor i filosofi Herbert Dreyfus.

Men et lille kontingent af kritikere er tilbage, og verden har brug for dem til at holde en balance i sit syn på AI, efterhånden som brugen af ​​AI bliver mere sammenflettet med hverdagen. De omfatter Judea Pearl, hvis

Bogen om hvorfor minder AI-udøvere om behovet for kausal begrundelse; og University of Toronto professor Hector Levesque, hvis test for sund fornuft, den Winograd Schema Challenge, sætter en høj barre for konventionel kunstig intelligens.

Men ingen har været mere produktive i den moderne æra i kritikken af ​​AI end NYU professor i psykologi Gary Marcus. I fem bøger og talrige artikler i populære udgivelser som f.eks New York Times og New Yorkeren, Marcus har skudt de seneste AI-overskrifter for at minde folk om grænserne for at præsentere AI.

Marcus er gået sammen med sin kollega, Ernest Davis, professor i datalogi ved NYU, for at føre denne kamp videre i en ny, meget tilgængelig bog med titlen Genstart af AI: Opbygning af kunstig intelligens, vi kan stole på, som sælges i dag fra Pantheon Books.

Genstarter AI er en forfriskende, lækker kritik af hypen omkring moderne videnskab, mediernes dovne antagelser og farerne ved at lade automatisering stå ubestridt. Det er et fremragende bind for alle, der gider stoppe op og tænke over, hvad der kan ske med den byggede verden omkring dem.

Marcus talte med ZDNet forud for dens udgivelse for at besvare spørgsmålet: Hvorfor skrive denne bog nu?

"Der er mange grunde til at skrive en bog, en er at konsolidere en position, og en anden er at adressere et misforhold mellem, hvad AI er nu, og hvad det skal gøre," siger Marcus.

Hvad AI har brug for er at være "troværdig," understreger Marcus og Davis, noget det i øjeblikket ikke er efter deres opfattelse. Nu hvor en form for kunstig intelligens er overalt, er dens mangler ikke længere af rent akademisk interesse, hævder Marcus og Davis. En vane, de kalder "overattribution", tendensen til at give AI for meget kredit, "kan faktisk være dødelig," skriver de og citerer hændelsen med et fatalt styrt af en Tesla på autopilot i 2016 mens den menneskelige chauffør angiveligt så på en Harry Potter film.

Også: Nej, denne AI har ikke mestret videnskab i ottende klasse

Bogen har ekkoer af tidligere kritik gennem årtier, såsom Drew McDermotts artikel fra 1976, "Kunstig intelligens møder naturlig dumhed." Men det var et brev til andre praktiserende læger, en advarende fortælling om professionel hybris i udøvelse af kunstig intelligens.

Marcus og Davis' bog har en anden påtrængning, et behov for at fortælle enkeltpersoner i almindeligt sprog, hvorfor mytologien om smarte computere i de populære medier er vildledende. "Nettoeffekten af ​​en tendens hos mange i medierne til at overrapportere teknologiske resultater er, at offentligheden er kommet til at tro, at AI er meget tættere på at blive løst, end den i virkeligheden er," skriver de.

Marcus og Davis foreslår en tjekliste med seks punkter over, hvad man skal spørge sig selv om "når du hører om en formodet succes i AI." De inkluderer "fjernelse af retorikken" for at spørge, hvad AI-systemet "faktisk" gjorde. Spørg med andre ord om videnskaben bag hypen.

Det er vismandsråd, når hver uge bringer et computergennembrud, der lyder, som om det er en form for sansende liv. Et nyligt eksempel er Allen Institute for AI's annoncering af en sprogmodelleringscomputer kaldet "Aristo." New York Times antydet i sin rapportering, at Aristo havde mestret ottende klasses naturvidenskabelige emner, når det faktisk var videnskaben er ikke engang i nærheden af ​​det.

Inden for den dejlige spyd af AI-hype er en mere alvorlig anklage mod den nuværende praksis af maskinelæring. Den dybe læringsskole for AI, hævder Marcus, er ikke villig til at undersøge, hvad Marcus kalder "kognitive modeller" af verden.

"Jeg tror, ​​det kræver meget omhyggelig analyse af verden på en måde, som filosoffer er fortrolige med, og en måde, folk i klassisk kunstig intelligens nogle gange gjorde, men ikke med de rigtige værktøjer," siger Marcus i en telefon interview. "Folk i AI lige nu er bare ikke interesserede, de er bare interesserede i mere data og en hurtigere maskine."

Hjertet i kritikken kommer bedst til udtryk i kapitlet "Hvis computere er så smarte, hvordan kan de så ikke læse?" Dagens udbredte form for kunstig intelligens, dyb læring, har gjort enorme fremskridt med at skabe sandsynlighedsfordelinger af hyppigheden af ​​ord i sætninger, som Alan Instituttets Aristo viser. Men de viger altid tilbage fra spørgsmålet om mening.

Som Marcus ser det, er det et produkt af det faktum, at de fleste AI-udøvere i dag ikke ønsker at reflektere over store spørgsmål om forståelse men er snarere fokuseret på at skabe den næste store computermodel, generelt ved at tilegne sig artefakter af det menneskelige samfund med lidt tanke.

"Folk ønsker at stjæle ved at tilnærme et stort korpus af viden, mennesker har gjort," siger Marcus og hentyder til AI-datasæt som f.eks. CommonCrawl, bruges til at træne sprogbehandling. "Hele lingvistik, at tænke på, hvad reglerne er, alt det er vigtigt, men det er meget sjovere at samle nogle kommenterede databaser," en praksis, der opnår nye benchmarks, men det er ikke, hævder han, "førende os længere i at fremme vores forståelse."

Også: Nej, denne AI kan ikke afslutte din sætning

Systemer som f.eks OpenAIs massive naturlige sprogprogram, "GPT-2," introduceret i februar, er "temmelig imponerende, men totalt usammenhængende," påpeger han.

Ved at anklage tyveri af nutidens AI-modeller skubber Marcus imod et af de mest forførende aspekter af dyb læring, hvilket netop er dens evne til at tage enhver test af "ræsonnement" eller "tænkning" og omformulere det til en ingeniørkunst udfordring.

Levesque, i foreslår sin Winograd Schema Challenge for flere år siden, opfordrede videnskabsmænd til at "lægge enhver idé om tricks og genveje til side og i stedet fokusere på, hvad der skal vides, hvordan man repræsenterer det symbolsk, og hvordan man bruger repræsentationerne." Men den nuværende bedste præstation på hans test, opnået denne sommer af en gruppe fra Englands Alan Turing Institut, blot tilføjet millioner af eksempler til træningsdata at øge dygtigheden af ​​Googles "Bert" sprogalgoritme til at vælge svaret. Ingeniørerne trodsede Levesques formaning, udbasunerede deres præstation med et papir med titlen "Et overraskende robust trick til Winograd Schema Challenge."

På trods af kritikken siger Marcus, at han er meget tættere på Marvin Minsky i sin entusiasme for AI's potentiale, end han er på Dreyfus' legendariske skepsis. "Vi er meget optimistiske med hensyn til, hvad AI kunne gøre, og vi er deprimerede over, hvor lidt der er blevet opnået," siger Marcus om sig selv og Davis. "Vi er ikke som Hubert Dreyfus, der siger, hvad AI ikke kan."

Også: Hvorfor er AI-rapportering så dårlig?

Hvis tyveri og tekniske tricks har skabt en utroværdig AI, og potentielt usikker, hvad er så svaret?

Bogen har forslag til, hvor man kan henvende sig, men de er mindre overbevisende end selve kritikken. Boglanceringen falder sammen med Marcus' nylige grundlæggelse af et firma, der skal udvikle AI-teknologi, Robust.ai, hvoraf han er stifter og administrerende direktør. Marcus, der tidligere har grundlagt og solgt en startup til Uber, håber, at satsningen vil bringe nogle af de ideer, han udtrykker i bogen om, hvor AI skal hen. "Det er derfor, jeg byggede en virksomhed," siger han.

"Vi vil bygge værktøjer til at gøre noget som Rosey muligt," siger han med henvisning til robotpigen i tegnefilmen The Jetsons. "Vi ønsker at bygge stykker udstyr, der kunne være autonome, eller en kognitiv motor, der kan svare til den præfrontale cortex." Marcus er ikke afsløre investeringen, undtagen at sige, at der var en "meget stærk frørunde." Virksomheden "ansætter hurtigt og begynder at bygge prototyper," han siger. "Måske vil vi tage fat på nogle af de ukendte her, det er meget svære problemer," siger han. "Vi vil ikke sige, at vi løser alle disse udfordringer, vi er ikke vrangforestillinger, men måske kan vi gøre flere fremskridt."

Som lærd og kritiker, og nu iværksætter, er Marcus engageret i en debat, der nogle gange bryder ud på Twitter med de koryfæer, der forsvarer den nuværende AI. De omfatter Facebooks AI-forskningsdirektør, Yann LeCun, og professor ved University of Toronto, Geoffrey Hinton, som også arbejder på Googles Google Brain-enhed.

Også: OpenAI har en sindssyg tekstbot, og jeg har stadig et skrivejob

En af de mest opsigtsvækkende påstande fra Genstarter AI er Marcus' påstand om, at de systemer, der er bygget af LeCun og Hinton og andre, er kernesystemerne for dyb læring, trods al deres besættelse af teknik og benchmarks og data, faktisk trække på nogle af de "rige" former for viden, som han går ind for, hvad der er kendt som "priors", hvad Marcus karakteriserer som "nogle systemer indbygget med rige egenskaber til at begynde med."

Tag for eksempel den mest dominerende form for dyb læring neurale netværk, det konvolutionelle neurale netværk, som har gjort store fremskridt inden for billedgenkendelse. Det funktionelle kredsløb i hjertet af CNN, konvolutionen, var en inspiration, som LeCun havde for tredive år siden, bemærker Marcus. "Det, som Yann vandt sin pris for, er et medfødt stykke ledninger, han lærte det ikke fra dataene," siger Marcus med henvisning til LeCun's pris for livstidspræstation, ACM Turing Award.

Også: LeCun, Hinton, Bengio: AI-sammensvorne tildelt prestigefyldte Turing-pris

"Om halvtreds år vil folk huske, hvem LeCun er, men vil ikke forstå, hvorfor han var så anti-indfødt," hævder Marcus. Det samme gælder for AlphaZero, programmet bygget af Googles DeepMind, der slog alle verdens mestre i skak og Go. AlphaZero, påpeger han, er meget afhængig af en årtier gammel søgestrategi kendt som "Monte Carlo træsøgning." Denne teknik "er en meget struktureret forudgående," bemærker Marcus, uden hvilken systemet ikke kunne fungere.

"Selvfølgelig har du et neuralt net til at klassificere mønstre, men du sætter det i en kontekst af en tidligere, der siger: 'Hvis jeg tager dertil, vil den anden fyr maksimere sin fordel'," forklarer han. Deep learning-udøvere "sniger det ind ad bagdøren", men anerkender ikke lånet, hævder Marcus, så "de har på en måde fordrejet samtalen" om AI.

Indtil Robust.ai bærer frugt, vil videnskabsmænd med dyb læring selvfølgelig gerne afskedige Marcus. Til hans observationer kan de svare: Nå, det virker, det virker under mange omstændigheder, som at forudsige produkter du kan lide online, eller besvare dine naturlige sprogforespørgsler på din smartphone eller oversætte dine sætninger i virkeligheden tid.

Hvilken ret har Marcus så til at kritisere det, der virker?

"Du vil måske isolere dig selv ved at sige, at folk, der har fremsat kritik, ikke har bygget noget," erkender Marcus, "men det er åbenbart fejlagtigt; hvis kritikken er korrekt, så skal den behandles."

Også: En computervisionær ser ud over nutidens AI

Da Gregor Mendel, munken, der skabte rammerne for moderne genetik, gjorde sine opdagelser om arvelighed i det 19. århundrede, var det uden en mekanisme til at forklare hans resultater, og hans opdagelser gik ubemærket hen i årtier, Marcus observerer.

Men Mendel var inde på noget. "Før Mendel troede folk, at genetik var en blandingsproces snarere end partikler," reflekterer han. "Mendel udelukkede det, han fandt ud af nogle af systemets velstand.

"Vi forsøger på samme måde at identificere nogle egenskaber ved det kognitive system, som AI burde have, og måske vil jeg have det."

I mellemtiden er der bogen, et dejligt frisk pust midt i mediehype for dem, der føler sig oversvømmet af den, og en fin introduktion til emnet for de uindviede.