AI Debate 2: Noc tisícky učencov AI

Pred rokom Gary Marcus, častý kritik foriem hlbokého učenia AI, a Yoshua Bengio, popredný zástanca hlbokého učenia, čelili v dvojhodinovej debate o AI v sídle Bengio's MILA Institute v Montreale.

V stredu večer bol Marcus späť, aj keď virtuálne, aby otvoril druhú časť toho, čo sa teraz plánuje výročná diskusia o AI pod názvom „AI Debate 2: Moving AI Forward“. (Rok môžete sledovať od 16:00 do 19:00 popoludnie na facebookovej stránke Montreal.ai.)

Vincent Boucher, prezident organizácie Montreal. AI, ktorá pomáhala organizovať minuloročnú debatu, otvorila konanie a potom odovzdala mikrofón Marcusovi ako moderátorovi.

Marcus uviedol, že na večer sa vopred zaregistrovalo 3 500 ľudí a na začiatku bolo 348 ľudí naživo na Facebooku. Minuloročná debata mala na konci noci 30 000, poznamenal Marcus.

Bengio sa nezúčastnil, ale na večeri vystúpili šestnásti vedci: Ryan Calo, Yejin Choi, Daniel Kahneman, Celeste Kidd, Christof Koch, Luís Lamb, Fei-Fei Li, Adam Marblestone, Margaret Mitchell, Robert Osazuwa Ness, Judea Pearl, Francesco Rossi, Ken Stanley, Rich Sutton, Doris Tsao a Barbara Tverského.

"Ide o to, reprezentovať rôznorodosť pohľadov," povedal Marcus a sľúbil tri hodiny, ktoré by mohli byť ako "pitie z hasičskej hadice."

tiež: Diabol je v detailoch v diskusii o historickej AI

Marcus otvoril diskusiu pripomenutím minuloročnej debaty s Bengiom, o ktorej povedal, že bola o tejto otázke, Stačia veľké dáta a hlboké učenie samotné na to, aby sme sa dostali k všeobecnej inteligencii?

Tento rok, povedal Marcus, došlo k „ohromujúcej konvergencii“, ako sa zdalo Bengio a ďalší odborník na hlboké vzdelávanie, šéf AI na Facebooku, Yann LeCun. s rovnakými názormi ako Marcus o tom, že do hlbokého učenia bolo potrebné pridať ďalšie druhy prvkov, aby sa zachytili veci ako kauzalita a uvažovanie. Marcus so súhlasom citoval tohtoročné tweety LeCuna o tom, ako obrie modely neurónových sietí, ako napríklad GPT-3, pri niektorých úlohách spadli.

Bol tam aj článok, ktorý napísal priekopník strojového učenia Jürgen Schmidhuber bol zverejnený tento mesiac to sa zdalo byť súčasťou tohto zbližovania, povedal Marcus.

Po tejto konvergencii, povedal Marcus, nastal čas prejsť na „debatu budúceho desaťročia: Ako môžeme posunúť AI na ďalšiu úroveň“.

Každý zo šestnástich rečníkov hovoril približne päť minút o svojom zameraní a o tom, čo podľa nich AI potrebuje. Marcus zostavil pekný balík na čítanie si môžete pozrieť od každého z učencov ako pozadie.

INTERAKCIA, NEUROSYMBOLIZMUS, TEÓRIA VÝPOČTU

Fei-Fei Li, Sequoia profesor informatiky na Stanfordskej univerzite, začal konanie. Li hovorila o tom, čo nazývala „severná hviezda“ AI, o veci, ktorá by mala slúžiť na vedenie disciplíny. V posledných piatich desaťročiach jedna zo severných hviezd, povedal Li, bola vedeckým poznatkom, že rozpoznávanie objektov je kritickou funkciou pre ľudské kognitívne schopnosti. Rozpoznávanie objektov viedlo k prelomovým objavom v benchmarkoch AI, ako je napríklad súťaž ImageNet (ktorú pomohol vytvoriť Li.)

Nová severná hviezda, povedala, bola interakcia s prostredím. Li citoval a štúdia z roku 1963 od Richarda Helda a Alana Heina, "Stimulácia produkovaná pohybom vo vývoji vizuálne riadeného správania." Výskumníci vykonali experimenty na pároch novorodencov mačiatka, kde jedno mačiatko sa mohlo pohybovať, aby preskúmalo svoje prostredie, zatiaľ čo druhé mačiatko sa pohybovalo v nosiči, takže malo pasívne, nie aktívne prieskum. Held a Hein dospeli k záveru, že byť pasívny verzus aktívny v počiatočných štádiách prieskumu vedie k zníženému priestorovému vnímaniu a koordinácii u mačiatok. Held a Hein teda dospeli k záveru, že na rozvoj schopnosti orientovať sa vo svete je potrebné sebariadené správanie v prostredí.

Po LI hovoril Luís Lamb, profesor počítačovej vedy na Universidade Federal do Rio Grande do Sul v Brazílii, o „neurosymbolickej AI“, téme, ktorú prezentoval. týždeň predtým na konferencii NeurIPS AI.

Lamb označil Marcusa a Judeu Pearl za „hrdinov“ a povedal, že neurosymbolické dielo postavené na Marcusových konceptoch v Marcusovej knihe „Algebraická myseľ“ vrátane potreby manipulovať so symbolmi na vrchole nervových siete. "Potrebujeme základný prístup založený na logickej formalizácii", ako je Pearlovo "a strojové učenie," povedal Lamb.

Po Lambovi nasledoval Rich Sutton, uznávaný vedec z DeepMind. Sutton si spomenul na neurovedca Davida Marra, ktorého nazval jednou z veľkých postáv AI. Opísal Marrovu predstavu o troch úrovniach spracovania, ktoré boli potrebné: výpočtová teória, reprezentácia a algoritmus a hardvérová implementácia. Marr sa zaujímal najmä o výpočtovú teóriu, ale „v AI je dnes veľmi málo výpočtovej teórie“, povedal Sutton.

Veci ako gradientový zostup sú „ako“, povedal Sutton, nie „čo“, čo potrebovala výpočtová teória.

„Posilnené učenie je prvou výpočtovou teóriou inteligencie,“ vyhlásil Sutton. Ďalšími možnosťami boli prediktívne kódovanie, bayesovská inferencia a podobne.

"AI potrebuje dohodnutú výpočtovú teóriu inteligencie," uzavrel Sutton, "RL je na to výnimočným kandidátom."

„HLBKÉ POROZUMENIE“, PRAVDEPODOBNÉ PROGRAMY, EVOLÚCIA

Nasledovala Pearl, ktorá napísala množstvo kníh o kauzálnom uvažovaní, vrátane knihy Times najpredávanejší, Kniha Prečo. Jeho prednáška mala názov „Udomácnenie kauzality“.

"Sedíme na zlatej bani," povedala Pearl s odkazom na hlboké učenie. "Navrhujem motor, ktorý bol skonštruovaný v kauzálnej revolúcii, aby reprezentoval výpočtový model duševného stavu, ktorý si zasluhuje titul 'hlboké pochopenie'," povedal Pearl.

Hlboké pochopenie, povedal, by bolo jediným systémom schopným odpovedať na otázky: "Čo je?" "Čo ak?" a "Keby len?"

Ďalším na rade bol Robert Ness na tému „kauzálne uvažovanie s (hlboko) pravdepodobnostným programovaním“.

Ness povedal, že si o sebe myslí, že je inžinier a zaujíma sa o budovanie vecí. "Kľúčové bude pravdepodobnostné programovanie," povedal na vyriešenie kauzálneho uvažovania. Pravdepodobnostné programovanie by mohlo vytvoriť agentov, ktorí dokážu uvažovať kontrafaktuálne, čo je kľúč k kauzálnemu uvažovaniu, povedal Ness. To bolo niečo, čo cítil, že je „môjmu srdcu blízke a drahé“. Toto, povedal, by mohlo vyriešiť Pearlovu otázku týkajúcu sa "Keby len?"

tiež: Čo je v názve? Diskusia o „hĺbkovom učení“.

Ďalším bol Ken Stanley, ktorý je profesorom počítačovej vedy Charlesa Millicana na University of Central Florida. Stanley zaujal široký pohľad na evolúciu a kreativitu.

Kým počítače môžu vyriešiť problémy, povedal Stanley, ľudia robia niečo iné, čo počítače nerobia: otvorené inovácie.

„Po tisícročia vrstvíme nápad na nápad, od ohňa a kolies až po vesmírne stanice, ktoré by sme nazvali an systém s otvoreným koncom." Stanley povedal, že evolúcia bola paralelou, "fenomenálnym systémom," povedal, ktorý vytvoril inteligenciu. "Keď sme začali existovať, dostali ste všetky tisícročia kreativity," povedal Stanley. "Mali by sme sa snažiť pochopiť tieto javy," povedal.

Po Stanleym nasledoval Yejin Choi, docent počítačovej vedy Brett Helsel na Washingtonskej univerzite.

Spomenula si na „Monsters in a Tunnel“ od Rogera Sheparda, slávnu vizuálnu ilúziu. Shepard nakreslil dve bytosti v tuneli s výraznou perspektívou. Hoci postavy na obrazovej rovine dvoch entít majú presne rovnakú veľkosť, na prvý pohľad jedna postava vyzerá menšia ako druhá, čo je efekt perspektívy.

O Shepardovej ilustrácii, poznamenal Choi, sa diskutovalo v knihe z roku 2017 Enigma rozumu, Hugo Mercier a Dan Sperber, ako príklad toho, ako mozog využíva kontext na pochopenie obrazu.

To viedlo Choi k tomu, aby hovoril o dôležitosti jazyka a tiež o „uvažovaní ako generatívnych úlohách“.

"Uvažujeme za pochodu a toto bude jedna z kľúčových základných výziev napredovania."

Choi povedal, že nové jazykové modely ako "GPT-4, 5, 6 to nezvládnu."

MODULARITA, NEZNÁME PREMENNÉ

Po Choiovej prezentácii začal Marcus prvú z niekoľkých relácií otázok a odpovedí, ktoré prelínali prezentácie.

Marcus si našiel chvíľku, aby identifikoval to, čo považoval za konvergenciu medzi rečníkmi: na kontrafaktoch; o zaobchádzaní s neznámym a otvoreným myslením; o potrebe integrovať poznatky, až k Pearlovmu názoru, že samotné údaje nestačia; dôležitosť zdravého rozumu (k Choiovmu bodu o „generatívnom“)

Marcus sa opýtal poroty: „Dobre, videli sme šesť alebo sedem rôznych perspektív, chceme ich dať dokopy? Chceme, aby posilňovacie učenie bolo kompatibilné s vedomosťami?"

Lamb poznamenal, že neurosymbolické systémy nie sú o „ako“.

"Je dôležité pochopiť, že máme rovnaké ciele vybudovať niečo veľmi solídne z hľadiska učenia, ale reprezentácia predchádza učeniu," povedal Lamb.

Marcus požiadal vedcov, aby sa zamysleli nad modularitou. Sutton odpovedal, že by uvítal veľa spôsobov, ako premýšľať o celkovom probléme, nielen o reprezentácii. "Čo je to? Čo je celková vec, ktorú sa snažíme dosiahnuť?" s výpočtovou teóriou, vyzval. "Potrebujeme viacero výpočtových teórií," povedal Sutton.

Medzi otázkami publika sa jeden jednotlivec pýtal, ako uvažovať v kauzálnom rámci s neznámymi alebo novými premennými. Ness hovorila o COVID-19 a štúdiu vírusov. Predchádzajúce vírusy pomohli vyvinúť kauzálne modely, ktoré bolo možné rozšíriť na SARS-CoV-2. Odvolával sa na dynamické modely, ako je všadeprítomný epidemiologický model „SEI“, a hovoril o modelovaní v pravdepodobnostných jazykoch. "Často sa s tým stretávate, keď narazíte na problém, nie ste oboznámení, ale môžete importovať abstrakcie z iných domén," povedal Ness.

Choi zdôraznil: "Ľudia sú schopní veriť zvláštnym veciam a robiť zvláštne kauzálne úvahy."

Choi sa spýtal, "chceme vybudovať systém podobný človeku?" Choi povedal jednu vec, ktorá je zaujímavá človeka je schopnosť komunikovať toľko vedomostí v prirodzenom jazyku a učiť sa prirodzeným spôsobom Jazyk.

Marcus sa Li a Stanleyho spýtal na „neuroevolúciu“. "Aký je stav toho poľa?" spýtal sa.

Stanley povedal, že pole môže používať evolučné algoritmy, ale môže to byť len pokus o pochopenie javov s otvoreným koncom. Navrhol „hybridizáciu“ evolučných prístupov s algoritmami učenia.

„Evolúcia je jedným z najväčších a najbohatších experimentov, aké sme v inteligencii videli,“ povedal Li. Navrhla, že dôjde k „súboru zjednocovania princípy inteligencie." "Ale nie som dogmatický, pokiaľ ide o dodržiavanie biologických obmedzení evolúcie, chcem princípy destilovať," povedal Li.

GESTÁ, VRODENÁ VNENIE, NEUROVEDA

Po prestávke na otázky Marcus priviedol Tverského, emeritného profesora psychológie na Stanforde. Jej zameranie bolo zapuzdrené na snímke s názvom „Všetky živé veci musia pôsobiť v priestore... keď sa pohyb zastaví, život sa skončí.“ Tversky hovoril o tom, ako ľudia robia gestá, robia priestorové motorické pohyby, ktoré môžu ovplyvniť, ako dobre alebo ako zle ľudí myslieť si.

"Učenie, myslenie, komunikácia, spolupráca, súťaženie, to všetko sa spolieha na činy a pár slov."

Ďalším bol Daniel Kahneman, laureát Nobelovej ceny a autor knihy Myslenie, rýchle a pomalé, pre niektorých druh biblie v otázkach uvažovania v AI. Kahneman poznamenal, že bol stotožnený s paradigmou knihy „Myslenie systémom 1 a systémom 2“. Jedna je formou intuície, druhá formou uvažovania na vyššej úrovni.

Kahneman využil svoj čas na objasnenie niektorých mylných predstáv v používaní výrazov.

Kahneman povedal, že Systém 1 môže zahŕňať mnoho vecí, ktoré sú nesymbolické, ale nie je pravda, že Systém 1 je nesymbolický systém. "Na to je príliš bohatý," povedal. "Je to reprezentácia sveta, reprezentácia, ktorá umožňuje simuláciu sveta," povedal Kahneman.

"Väčšinou sme v údolí normálu, udalostí, ktoré očakávame." Model akceptuje mnohé udalosti ako „normálne“, povedal Kahneman, aj keď neočakávané. Odmieta ostatných. Kahneman zdvihol Pearl a povedal, že veľa kontrafaktuálnych úvah bolo v Systéme 1, kde by takéto uvažovanie ovládal vrodený zmysel pre to, čo je normálne.

Po Kahnemanovi nasledovala Doris Tsao, profesorka biológie na CalTech. Zamerala sa na systémy spätnej väzby, pripomenula rané práce na neurónoch McCullocha a Pittsa. Spätná väzba je nevyhnutná, uviedla, pričom citovala spätné šírenie vo viacvrstvových neurónových sieťach. Pochopenie spätnej väzby môže umožniť vybudovať robustnejšie systémy videnia, povedal Tsao. Tsao povedal, že systémy spätnej väzby môžu pomôcť pochopiť javy, ako sú halucinácie. Tsao povedala, že je "veľmi nadšená z interakcie medzi strojovým učením a systémovou neurovedou."

Ďalším bol Marblestone z MIT, predtým výskumný vedec v DeepMind pokračoval v téme neurovedy. Povedal, že pozorovanie mozgu a pokus o abstrakciu k teórii fungovania je „práve teraz veľmi primitívne“. Marblestone povedal, že príklady neurónových sietí, ako sú konvolučné neurónové siete, kopírovali ľudské správanie.

Marblestone hovoril o posune za hranice len štruktúry mozgu človek aktivity, napríklad pomocou fMRI. "Čo keby sme mohli modelovať nielen to, ako niekto kategorizuje objekt, ale prinútiť systém predpovedať celú aktivitu v mozgu?"

Ďalej prišiel Koch, výskumník z Allenovho inštitútu pre vedu o mozgu v Seattli. Začal tvrdením: „Nehľadajte pomoc v neurovede s AI.“

Rozsiahle experimenty inštitútu odhaľujú zložitosť mozgu, ktorá ďaleko presahuje všetko, čo možno vidieť v hlbokom učení, povedal. „Konektóm odhaľuje, že mozgy sa neskladajú len z miliónov buniek, ale z tisícky rôznych typov neurónových buniek, ktoré rozlišovať podľa vyjadrených génov, adries, na ktoré posielajú informácie, rozdielov v synaptickej architektúre v dendritických stromy,“ povedal Koch. "Máme vysoko heterogénne komponenty," povedal. "Veľmi sa líši od nášho súčasného hardvéru VLSI."

„Toto skutočne presahuje čokoľvek, čo kedy veda študovala, s týmito vysoko heterogénnymi komponentmi rádovo 1 000 s konektivita rádovo 10 000." Súčasné hlboké neurónové siete sú "ochudobnené," povedal Koch s aktiváciou zisku-saturácie Jednotky. "Prevažná väčšina z nich sa podáva dopredu," povedal Koch, zatiaľ čo mozog má "masívnu spätnú väzbu."

„Pochopenie mozgu nám zaberie storočie alebo dve,“ povedal. "Je chybou hľadať inšpiráciu v mechanistickom substráte mozgu na urýchlenie AI," povedal Koch, pričom svoje názory postavil do kontrastu s názormi Marblestone. "Len sa radikálne líši od vlastností vyrobeného predmetu."

ROZMANITOSŤ, BUNKY, SÚBORY OBJEKTOV, EMMANUEL KANT

Po Kochovi Marcus navrhol niekoľko ďalších otázok. Pýtal sa na „rozmanitosť“, čo nám môžu jednotlivé časti kôry povedať o iných častiach kôry?

Tsao odpovedala poukázaním na to, že "to, čo vás zaráža, je podobnosť", čo môže naznačovať skutočne hlboké všeobecné princípy fungovania mozgu, povedala. Prediktívne kódovanie je „normatívny model“, ktorý by mohol „veľa vecí vysvetliť“. "Hľadanie tohto všeobecného princípu bude veľmi silné."

Koch skočil na tento bod a povedal, že typy buniek sú „celkom odlišné“, pričom vizuálne neuróny sú veľmi odlišné od napríklad neurónov prefrontálnej kôry.

Marblestone odpovedal „potrebujeme získať lepšie údaje“, aby sme „empiricky pochopili výpočtový význam, o ktorom hovorí Christof“.

Marcus sa spýtal na vrodenosť. Spýtal sa Kahnemana na jeho koncept „objektových súborov“. „Indexová karta vo vašej hlave pre každú z vecí, ktoré sledujete. Je to vrodená architektúra?"

Kahneman odpovedal, že objektové súbory sú myšlienkou stálosti v objektoch, keď ich mozog sleduje. Prirovnal to k policajnému spisu, ktorý časom mení obsah, keď sa zhromažďujú dôkazy. Je to „určite vrodené,“ povedal.

Marcus tvrdil, že v hlbokom učení neexistuje žiadny ekvivalent objektových súborov.

Marcus sa spýtal Tverskej, či je Kantianka, čo znamená predstavu Emmanuela Kanta, že čas a priestor sú „vrodené“. Odpovedala, že má „problémy s vrodenými“, dokonca aj objektovými súbory sú „vrodené“. Trvalosť objektu, poznamenal Tversky, "chvíľu trvá, kým sa to naučí." Ostrá dichotómia medzi vrodeným a získaným jej bola nepríjemná povedal. Ako dôležitú uviedla Liovu predstavu o hraní vo svete.

Celeste Kidd zopakovala Tverského v tom, že „mať problém povedať, čo to znamená byť vrodený“. Upozornila však „my sú obmedzené v poznaní toho, čo dieťa vie,“ a stále sa robí pokrok v chápaní toho, čo dojčatá vedieť.

PREDSTIHNUTIE, VÝKAZY HODNOTY, PRINCÍPY, ZÁKON

Ďalej bol Kidd na rade prezentovať. Kidd je profesorom na UC Berkeley, ktorého laboratórium študuje, ako si ľudia vytvárajú presvedčenie. Kidd poznamenal, že algoritmická zaujatosť je nebezpečná pre spôsoby, akými môžu „posilňovať ľudskú vieru niekedy deštruktívnymi spôsobmi“. Na odporúčanie obsahu uviedla systémy AI, napríklad na sociálnych sieťach. Takéto systémy môžu ľudí tlačiť k „silnejším, nepresným presvedčeniam, ktoré je napriek nášmu najlepšiemu úsiliu veľmi ťažké dosiahnuť Správne." Uviedla príklady Amazonu a LinkedInu, ktoré používajú AI na prijímanie zamestnancov, čo malo tendenciu byť zaujaté proti práci žien kandidátov.

„Predsudky v systémoch AI posilňujú a posilňujú zaujatosť ľudí, ktorí ich používajú,“ povedal Kidd. "Práve teraz je strašný čas v oblasti AI," povedal Kidd a citoval ukončenie Timnit Gebru od spoločnosti Google. "To, čo Timnit zažil v Google, je štandard, počuť o tom je nezvyčajné."

„Mali by ste počúvať Timnita a mnohých ďalších o tom, aké bolo prostredie v spoločnosti Google,“ povedal Kidd. "Jeff Dean by sa mal hanbiť."

Ďalším na rade bol Mitchell, ktorý viedol spolu s Gebru v Google. „Typický prístup k rozvoju

strojové učenie zhromažďuje tréningové údaje, trénuje model, výstup je filtrovaný a ľudia ho môžu vidieť." povedal Mitchell, ľudská zaujatosť je prvoradá pri zhromažďovaní údajov, anotáciách a „v celom zvyšku rozvoj. Ďalej to ovplyvňuje modelový tréning." Veci ako stratová funkcia sú vložené do "hodnotového vyhlásenia," povedal Mitchell. Predsudky sú aj v postprocese.

"Ľudia vidia výstup a ten sa stáva spätnou väzbou," povedala. "Snažili sme sa prelomiť tento systém, ktorý nazývame pranie zaujatosti." Vo vývoji neexistuje nič také ako neutralita, povedal Mitchell, „rozvoj je zaťažený hodnotami“.

Medzi vecami, ktoré je potrebné uviesť do prevádzky, je podľa nej rozložiť to, čo je súčasťou vývoja, aby o tom ľudia mohli uvažovať a pracovať na „predvídateľnom výhody“ a ďaleko od „predvídateľných škôd a rizík.“ Technika, povedal Mitchell, je zvyčajne dobrá vo vychvaľovaní výhod techniky, nie však rizík, ani uvažovania o dlhodobom horizonte účinky.

„Nemysleli by ste si, že by bolo také radikálne vložiť do vývojového procesu predvídavosť, ale myslím si, že sme Teraz vidíme, akú malú hodnotu ľudia pripisujú odbornosti a hodnote svojich pracovníkov,“ povedal Mitchell. Povedala, že ona a Gebru sa naďalej snažia priniesť prvok predvídavosti do viacerých oblastí AI.

Ďalším na rade bol Rossi, člen IBM. Diskutovala o úlohe vytvorenia „ekosystému dôvery“ pre AI. "Samozrejme, že chceme, aby to bolo presné, ale okrem toho chceme veľa vlastností," vrátane "zarovnania hodnôt" a spravodlivosti, ale aj vysvetliteľnosti. "Vysvetliteľnosť je veľmi dôležitá najmä v kontexte strojov, ktoré pracujú s ľuďmi."

Rossi zopakovala Mitchellovi o potrebe „transparentnosti“, ako to nazvala, o spôsoboch zavádzania zaujatosti do potrubia. Zásady, povedal Rossi, nestačia, „potrebuje veľa konzultácií, veľa práce pri pomoci vývojárom pochopiť, ako zmeniť spôsob, akým robia veci“ a akýsi druh „zastrešujúcej štruktúry“ vo vnútri organizácií. Rossi povedal, že na modelovanie hodnôt v stroji budú dôležité snahy ako neurosymbolické a Kahnemanove systémy 1 a 2.

Posledným prezentujúcim bol Ryan Calo, profesor práva na Washingtonskej univerzite. "Mám niekoľko problémov so zásadami," povedal Calo. "Princípy sa nepresadzujú samostatne, za ich porušenie nie sú spojené žiadne sankcie," povedal.

„Môj názor je, že princípy sú do značnej miery nezmyselné, pretože v praxi sú navrhnuté tak, aby kládli nároky, ktoré nikto nespochybňuje. Myslí si niekto, že AI by mala byť nebezpečná? Nemyslím si, že potrebujeme zásady. Čo musíme urobiť, je vyhrnúť si rukávy a posúdiť, ako AI ovplyvňuje ľudské zdroje. A potom prispôsobiť náš systém zákonov tejto zmene. To, že AI nemôže byť regulovaná ako taká, neznamená, že v reakcii na ňu nemôžeme zmeniť zákon.“

Marcus odpovedal, že „Pandorina skrinka je teraz otvorená“ a že svet je v „najhoršom období AI. Máme tieto systémy, ktoré sú otrokmi údajov bez znalostí,“ povedal Marcus.

Marcus sa spýtal na benchmarky. Môžu mať stroje nejaký "spoľahlivý spôsob, ako merať náš pokrok smerom k zdravému rozumu?" Choi odpovedal, že trénovanie strojov pomocou príkladov je úskalia. Alebo učenie s vlastným dozorom, tiež problematické.

„Pravda o súčasnej paradigme hlbokého učenia je taká, že si myslím, že je to nesprávne, takže benchmark bude musieť byť nastavený viac generatívne. Na tejto generatívnej schopnosti, ktorú ľudia majú, je niečo, k čomu sa AI priblíži, musíme skutočne otestovať generatívnu schopnosť. schopnosť."

Marcus sa spýtal na literatúru o ľudských predsudkoch. Čo s nimi môžeme urobiť. „Mali by sme regulovať naše spoločnosti v oblasti sociálnych médií? Čo sa týka zásahov,“ pýtal sa Kahnemana, ktorý sa celoživotne venoval ľudským predsudkom.

Kahneman nebol optimistický, povedal. Snahy o zmenu spôsobu, akým ľudia intuitívne uvažujú, neboli veľmi úspešné. „Práve sme s dvomi kolegami dokončili knihu, kde hovoríme o hygiene rozhodnutí,“ povedal. „To by boli niektoré popisné princípy, ktoré uplatňujete pri premýšľaní o tom, ako myslieť, bez toho, aby ste vedeli, aké sú predsudky, ktoré sa snažíte odstrániť. Je to ako umývanie rúk: neviete, čomu bránite.“

Tversky nasledoval a povedal: "Je veľa vecí o iniciatívach AI, ktoré ma mystifikujú, jednou z nich je spoliehanie sa na slová, keď toľko porozumenia prichádza inými spôsobmi, nie slovami."

Mitchell poznamenal, že kognitívne predsudky môžu viesť k diskriminácii. Diskriminácia a predsudky sú "úzko spojené" pri vývoji modelov, povedal Mitchell. Pearl v odpovedi ponúkol, že niektoré predsudky môžu byť opravené pomocou algoritmov, ak sa dajú pochopiť. "Niektoré predsudky sa dajú opraviť, ak sa dajú modelovať." Označil to ako zaujaté „pranie“.

Kidd si všimol prácu vo svojom laboratóriu, aby sa zamyslel nad mylnými predstavami. Všetci ľudia odhaľujú predsudky, ktoré nie sú opodstatnené dôkazmi vo svete. Ness poznamenal, že kognitívne zaujatosti môžu byť užitočnými induktívnymi skresleniami. To, povedal, znamená, že problémy v AI nie sú len problémami filozofie, ale „veľmi zaujímavými technickými problémami“.

ROBOTY

Marcus sa spýtal na roboty. Jeho štart, Robustná AI, pracuje na takýchto systémoch. Väčšina robotov, ktoré v súčasnosti existujú, „robí len skromné ​​množstvo fyzických úvah, ako sa pohybovať v miestnosti,“ poznamenal Marcus. Spýtal sa Li, "ako vyriešime túto otázku fyzikálneho uvažovania, ktorá je pre ľudí veľmi účinná a ktorá vstupuje do jazyka."

Li odpovedal, že „vtelenie a interakcia sú základnou súčasťou inteligencie“, pričom uviedol predslovnú aktivitu detí. „Nemôžem viac súhlasiť s tým, že fyzické uvažovanie je súčasťou väčších princípov rozvoja inteligenciu,“ povedal Li. Nebolo potrebné nevyhnutne prejsť konštrukciou fyzikálnych roboty, povedala. Niektoré z týchto potrieb by mohli poslúžiť vzdelávacie agenti.

Marcus nasledoval otázku o simulačnej práci v Liovom laboratóriu. Spomenul „výhody“. „Pokiaľ ide o stelesnenie,“ povedal Marcus, „veľa je to o fyzických možnostiach. Držím túto ceruzku, držím tento telefón. Ako blízko sme k tým veciam?"

„Sme veľmi blízko,“ povedal Li a uviedol napríklad prácu čipového giganta Nvidia na fyzickom modelovaní. „Musíme to mať v ďalšej kapitole vývoja AI,“ povedal Li o fyzických interakciách.

Sutton povedal: "Snažím sa nemyslieť na konkrétny obsah vedomostí," a preto má sklon myslieť na priestor ako na premýšľanie o iných veciach. Ide o stavy a prechody z jedného stavu do druhého. "Odporujem tejto otázke, nechcem myslieť na fyzický priestor ako na špeciálny prípad."

Tversky ponúkol, že ľudia sa veľa naučia pozorovaním iných ľudí. „Mám však na mysli aj sociálne interakcie, napodobňovanie. U malých detí nejde o presné pohyby, ale často o ciele.“

Marcus odpovedal Tverskému, že "ciele sú neuveriteľne dôležité." Vybral si príklad od dojčiat. Štrnásťmesačné dieťa robí imitáciu – buď presnú akciu, alebo si uvedomí, že človek niečo robil v šialeným spôsobom a namiesto kopírovania budú robiť to, o čo sa ten človek pokúšal,“ vysvetlil experimenty s deti. „Vrodenosť sa nerovná narodeniu, ale v ranom veku sú reprezentácie priestoru a cieľov dosť bohaté a na to ešte nemáme dobré systémy,“ povedal Marcus.

Choi odpovedala Marcusovi opakovaným zopakovaním dôležitosti jazyka. „Chceme obmedziť výskum zdravého rozumu na bábätká, alebo chceme vybudovať systém, ktorý dokáže zachytiť aj zdravý rozum dospelých,“ vyzvala. „Jazyk je pre nás taký pohodlný“, že reprezentuje zdravý rozum dospelých, povedal Choi.

CURIOSITY

Marcus v tomto bode zmenil témy a pýtal sa na „zvedavosť“. Obrovská časť ľudských schopností, povedal, "sa stanovuje agenda, ktorá nejakým spôsobom posúva naše kognitívne schopnosti."

Koch sa pripojil: "Toto nie je obmedzené na ľudí, pozrite sa na mladého šimpanza, mladého psa, mačku... Úplne chcú objavovať svet."

Stanley odpovedal, že „toto je veľká hádanka, pretože je jasné, že zvedavosť je základom raného vývoja a učiť sa a stať sa inteligentným ako človek,“ povedal však, „nie je celkom jasné, ako to formalizovať správanie."

„Ak vôbec chceme mať kuriózne systémy,“ povedal Stanley, „musíme sa popasovať s týmto veľmi subjektívnym predstavu o tom, čo je zaujímavé, a potom musíme zápasiť so subjektivitou, ktorá sa nám nepáči vedci."

Pearl navrhol neúplnú teóriu zvedavosti. Ide o to, že cicavce sa snažia nájsť cestu do systému, kde sa cítia pohodlne a majú kontrolu. Čo poháňa zvedavosť, povedal, sú diery v takýchto systémoch. „Pokiaľ máte určité diery, cítite sa podráždene alebo nepríjemne, a to poháňa zvedavosť. Keď vyplníte tieto diery, cítite sa pod kontrolou."

Sutton poznamenal, že pri posilňovaní učenia má zvedavosť „úlohu nízkej úrovne“ pri riadení prieskumu. „V posledných rokoch sa ľudia začali pozerať na väčšiu rolu toho, o čom hovoríme, čo rád nazývam „hra“. Stanovujeme si ciele, ktoré nemusia byť nevyhnutne užitočné, ale môžu byť užitočné neskôr. Dám si úlohu a hovorím: Hej, čo som schopný urobiť. Aké sú možnosti." Sutton povedal, že hra môže byť jednou z "veľkých vecí", ktoré ľudia robia. "Hra je veľká vec," povedal.

Člen publika sa opýtal na pojem „metapoznávanie“. Rossi odpovedal, že musí existovať „nejaké miesto“ v Kahnemanovom Systéme 1 resp Systém 2, kde sa uvažuje o vlastných schopnostiach subjektu, „a povedať, chcel by som odpovedať týmto spôsobom alebo iná cesta. Alebo vymyslite nový postup, ako reagovať na tento podnet zvonku." Rossi naznačil, že takáto schopnosť by mohla pomôcť so zvedavosťou a so Suttonovou predstavou o hre.

Lamb nasledoval, že „na konci dňa chceme dosiahnuť, aby bol rozumný zvuk, pokiaľ ide o poskytovanie tohto systému 1 a systému 2, integrovaný. Učebná zložka skutočne zdravých systémov AI ich musí vnímať konvergentným spôsobom. Nakoniec musí byť proces uvažovania postavený rozumným spôsobom."

KAM CHCEŠ ÍSŤ?

Marcus položil ďalšiu otázku publika a požiadal každú osobu, aby na ňu odpovedala: „Kam chcete, aby AI smerovala, čo by vás urobilo šťastnými? Aká je cieľová funkcia pre tých z nás, ktorí budujeme AI."

Li: Ako vedec chcem posúvať vedecké poznatky a princípy AI stále ďalej. Stále mám pocit, že naša éra AI je prednewtonovskou fyzikou. Stále študujeme fenomenológiu a inžinierstvo. Nastane niekoľko okamihov, keď začneme chápať princípy inteligencie. Ako občan chcem, aby to bola technológia, ktorá môže idealistickým spôsobom zlepšiť ľudské podmienky. Je to také hlboké, môže to byť veľmi, veľmi zlé, môže to byť veľmi, veľmi dobré. Bol by som rád, keby sa rámec tejto technológie vyvinul a nasadil čo najbenevolentnejším spôsobom.

Jahňacie: Páči sa mi jeden z Turingových výrokov, vidíme len kúsok dopredu. Ako povedal Fei-Fei, chcem, aby Ai ako vedec napredoval. Ale keďže to má taký veľký vplyv ako to, čo tu ľudia hovoria, sú to kľúčové zodpovednosti nás samých. To, o čo sa snažíme, je upevniť tradície AI. Musíme hľadať konvergenciu, ako si povedal, Gary. Urobiť AI spravodlivejšie, menej zaujaté a niečo veľmi pozitívne pre nás ako ľudstvo. Musíme vidieť naše polia veľmi humanistickým spôsobom. Musíme sa riadiť serióznymi etickými princípmi a zákonmi a normami. Sme na začiatku kambrickej explózie AI. Musíme si veľmi dobre uvedomovať sociálne, etické a globálne dôsledky. Musíme sa obávať o rozdelenie sever/juh. Nemôžeme to vidieť len z jedinej kultúrnej perspektívy.

Sutton: Viete, AI znie ako niečo čisto technické. Súhlasím s Luísom, je to možno najhumanistickejšie zo všetkých snáh. Teším sa na naše väčšie porozumenie a na svet obývaný rôznymi druhmi inteligencie, rozšírených ľudí a nových ľudí a porozumeniu a novosti a rozmanitosti inteligencie.

Pearl: Moje túžby sú pomerne skromné. Všetko, čo chcem, je inteligentný, veľmi priateľský a super kompetentný učeň. Chcel by som pochopiť sám seba, ako rozmýšľam, ako som emocionálne vzrušený. Existuje niekoľko zložitých vedeckých otázok o mne, na ktoré ešte nemám riešenie. Napríklad vedomie a slobodná vôľa. Ak dokážem postaviť robota, ktorý bude mať takú slobodnú vôľu ako ja, budem to brať ako najväčší vedecký úspech 23. storočia a urobím predpoveď: budeme ho mať!

Ness: Toľko sa diskutuje o automatizácii toho, čo ľudia robia. Je zaujímavé zamyslieť sa nad tým, ako by to mohlo zvýšiť ľudskú inteligenciu. A zlepšiť ľudské skúsenosti. Videl som príspevky, ktoré ľudia písali o poézii, dokonca aj s týmito veľkými jazykovými modelmi. Nebolo by lepšie postaviť niečo, čo by skutočne pomohlo básnikom vytvárať novú poéziu? Mám rád pop music, ale rád by som počul aj nejaké nové počiny. Prví inžinieri, ktorí postavili Photoshop, vytvorili tie obrázky Matrix-y ľudí VR. Ale žiadny dizajnér dnes nevie, ako používať Photoshop. Dúfam, že AI urobí pre ľudskú skúsenosť to, čo Photoshop urobil pre dizajnérov.

Stanley: Ťažko sa to vyjadruje, je to také veľké úsilie. Pre mňa je to trochu v súlade s tým, ako povedal Robert: musíme to robiť pre seba. Nechceme sa zbaviť samých seba. Máme veci, ktoré bez pomoci nezvládneme. Keď ho vidím, poznám veľké umenie, ale nedokážem vytvoriť veľké umenie. Nejakým spôsobom by sa tieto skryté schopnosti, ktoré máme, dali urobiť jasnejšie s bohatým asistentom. Takže niečo, čo by AI mohla urobiť, je len nás posilniť, vyjadriť sa. Čo si myslím, že aj tak chceme urobiť.

Choi: Osobne mám dve veci, z ktorých som nadšený. Hovorili sme o zvedavosti. To, čo je práve teraz zábavné, je zvedavosť, ako čítať veci v paradigmách učenia, aby sme mohli byť schopní vytvárať veci, ktoré dokážu úžasné veci, aké sme nikdy predtým nedokázali. Je tu to intelektuálne uspokojenie. Chcel by som zostať optimistom, môžeme ísť veľmi ďaleko. A potom mám túto druhú časť seba, takže rovnosť a rozmanitosť mám naozaj hlboko v srdci. Som ohromený touto príležitosťou, ktorú mám, aby som týmto spôsobom zlepšil svet. zlepšenie predsudkov, ktoré ľudia majú. Mohli by sme byť skutočne schopní pomôcť ľuďom prebudiť sa vytvorením AI, ktorá im pomôže pochopiť, aké predsudky majú. Teším sa, čo sa stane budúci rok.

Tverského: Vidím tu veľa AI. AI, ktoré sa snažia napodobňovať ľudí. Mám obavy. Snažíte sa napodobňovať chyby, ktoré robíme? Alebo sa nás snažíte zdokonaliť? To je jedna skupina AI. Vidím iných, ktorí sa zdajú byť nástrojmi a obávajú sa implicitnej zaujatosti v týchto nástrojoch. Kreativita, hudba, poézia, to všetko je užitočné. Študujem ľudské správanie. Vždy ma zaujíma, čo dokáže komunita AI vytvoriť. Tieto otázky mi vždy otvárali oči.

Kahneman: Prvýkrát som sa začal zaujímať o novú AI, keď som sa rozprával s Demisom Hassabisom a skutočne ma zarazilo, aký skromný sa teraz javí ako pred šiestimi alebo siedmimi rokmi. Je to úžasná nádej, zdá sa, že sa v posledných rokoch skutočne vzdialila. Ďalší postreh: o učňovi a myšlienke, že ľudia by mali zostať pod kontrolou. Tu je skutočný priestor pre pesimizmus. Akonáhle AI alebo akýkoľvek systém pravidiel bude súťažiť s ľudským úsudkom, nakoniec príde ľudský úsudok a myšlienka, že skutočne potrebujú človeka, pravdepodobne nie. Keď existuje doména, ktorú ovláda AI, ľudia budú mať v tejto oblasti veľmi málo čo pridať, čo by mohlo mať veľmi komplikované a myslím si, že bolestivé následky.

Tsao: Dúfam, že pochopím mozog. Chcem, aby AI a neuroveda spolupracovali na čo najjednoduchšom a najkrajšom vysvetlení fungovania mozgu.

Mramorový kameň: Dúfam, že to umocní ľudskú kreativitu. Najpokročilejší vedci budú schopní urobiť viac, ako by mohli, ale aj nejaké náhodné dieťa by mohlo navrhnúť vesmírnu stanicu. Možno nám to prinesie univerzálny základný príjem. A možno to budú naši potomkovia ľudstva, ktorí sa vydajú do vesmíru.

Koch: Ako vedec sa teším na prácu s AI, aby som pochopil mozog. Aby ste pochopili tieto fantastické súbory údajov. Ale ako zdôraznil Fei-Fei, veľká časť AI je naivná. Umelá inteligencia sa zrýchlila a technológie sú súčasťou príčiny nerovnosti, rastúcej nedôvery v spoločnosť, kmeňového zmýšľania, sporov a sociálnych médií. Dnes ma prekvapilo, keď hovoríme o etike. Stretávam sa s ľuďmi, ktorí pracujú na štátnych ministerstvách. Ľudia, ktorí pracujú s vojenskými zákonmi. Existuje veľké znepokojenie s militarizáciou AI. Ľudia sa snažia vyjednávať zmluvy o tom, či by mal byť človek v slučke, keď staviame zabijáckych robotov, ako sa to deje. A čo rastúca hrozba militarizácie? Môžeme s tým niečo urobiť? Je džin ako zo škatuľky?

Kidd: Myslím, že k tomu nemám čo dodať. Toto nie je presne odpoveď na otázku, ale myslím si, že to, čo chcem od AI, je to, čo chcem od ľudí: iné chápanie toho, čo AI je a čoho je schopná. Vezmite si príklad z vakcín, kto ich dostane, a rozhodovacieho procesu. Ukázali na algoritmus. Ale za algoritmami stoja ľudia. To, čo skutočne potrebujeme, je posun od AI ako niečoho samostatného, ​​na čo môžete poukázať a obviňovať z toho, že ľudia budú zodpovední za to, čo vyvíjajú.

Mitchell: Myslím, že sme blízko konca, chcem povedať veľa z toho, čo ľudia povedali. Mojím cieľom je nájsť veci zaujímavé a zábavné a ako akademici sme veľmi dobrí v post-hoc racionalizácii. Ale zásadnou súčasťou toho, čo robíme, je zábava. Je tu tento samoúčelný ťah, ktorý toho veľa vytvára. To sa oplatí označiť. Je to šialené. Dúfam, že AI môže byť dobrá, je oprava ľudských predsudkov. Ak by sme mali AI schopnú porozumieť jazyku používanému pri hodnotení výkonu, mohla by sa zapojiť do týchto diskusií. Bol by som rád, keby sa AI postavila na hlavu, aby zvládla skutočne problematické ľudské predsudky.

Rossi: Musím nadviazať na to, čo povedala Margaret. Praktické pojmy AI, ktoré riešia zložité problémy a môžu nám pomôcť pochopiť samých seba. Ale myslím si, že to, čo bolo práve povedané, bolo veľmi dôležité. Z môjho pohľadu som pred prácou na AI nikdy toľko nepremýšľal o svojich hodnotách. Na čo by sa systémy AI mali používať a na čo nie. Pre mňa to nie je len moja osobná reflexia, príležitosť na to má celá spoločnosť. Tieto problémy okolo AI, spôsob, ako sa zamyslieť nad našimi vlastnými hodnotami. Naše uvedomenie si vlastných obmedzení. Jasnejšie o tom, aké sú naše hodnoty.

Calo: Chcem, aby náklady a prínosy AI boli rovnomerne rozdelené, a chcem, aby verejnosť verila, že sa to robí, a myslím si, že to nie je možné bez zmien v zákone.

Marcus ukončil diskusiu vyhlásením, že jeho veľmi vysoké očakávania boli prekonané. "Táto posledná otázka sa mi obzvlášť páčila." Marcus vytiahol „staré africké príslovie“, že „Na to treba dedinu“.

"Dnes sme tu mali nejakú tú dedinu." Marcus poďakoval Boucherovi za veľa práce pri organizácii podujatia, propagácii atď.

Boucher urobil záverečné vyhlásenie a označil diskusiu za „veľmi pôsobivú“. Boucher povedal, že ďalšia debata, AI Debate 3, sa bude konať v rovnaký dátum budúceho roka, ale v Montreale. Tvárou v tvár, povedal Boucher, "To je naša nádej."

A to je zábal!