Nie sme pripravení na vplyv generatívnej AI na voľby

Počuli ste o tom, že George Washington nepodporuje revolučnú vojnu?

Keď George Washington slúžil ako generál vedúci povstaleckých síl, bol presvedčený, že americká vojna za nezávislosť bola chybou. Bol „ďaleko od toho, aby si bol istý, že si zaslúžime uspieť“.

tiež: Ako som oklamal ChatGPT, aby mi klamal

V roku 1777 vojak slúžiaci pod britským generálom Oliverom De Lanceym našiel kufor patriaci generálovi Washingtonovi. Kufr obsahoval sériu listov vo Washingtonovej vlastnej ruke, ktoré hovorili o jeho túžbe po zmierení s Anglickom a dokonca: "Milujem svojho kráľa."

Kufor sa našiel v rukách washingtonského komorníka (a zotročenej osoby) Williama Leeho, keď Leeho zajali Briti.

Tu bol hmatateľný dôkaz, že ani samotný Washington vojnu nepodporoval.

O niekoľko rokov neskôr, v roku 1795, keď Washington žiadal Senát o ratifikáciu Jayovej zmluvy s Francúzskom, listy boli citovaní ako dôkaz, že Washingtonovej lojalite sa nedá veriť a že mu na tom v skutočnosti nezáležalo demokraciu. Veľmi to sťažilo prijatie Jayovej zmluvy.

Ibaže... William Lee nebol nikdy zajatý Britmi. V skutočnosti William Lee nikdy neopustil stranu Washingtonu počas vojny za nezávislosť. Listy boli starostlivo vytvorené falzifikáty, ekvivalent deepfakes z 18. storočia.

tiež: Aká veľká je táto nová generatívna AI? Myslite na prerušenie na úrovni internetu

Prenasledovali Washington natoľko, že napísal - ako jeden zo svojich posledných činov v úrade - vyvrátenie falzifikátov v liste americkému ministrovi zahraničia Timothymu Pickeringovi.

Od Georgea Washingtona po Washington, DC

Rýchly posun vpred do roku 2018. Chystám sa dotknúť tém, ktoré sú politicky zaťažené. Na chvíľu prosím ignorujte politiku a zamerajte sa na ňu ako na príklady existencie dezinformácií. To je téma tohto článku. Dezinformácie poškodzujú všetky strany. Ale aby som vám ukázal, čo sa stalo, musím uviesť skutočné príklady. A to znamená, že musím spomenúť politikov.

Takže ideme…

Príklad 1: Kremľom podporovaná dezinformačná kampaň

Výbor Snemovne reprezentantov pre spravodajské služby, ktorý vyšetruje prezidentské voľby v roku 2016, zverejnil knižnicu viac ako 3 500 reklám obsahujúcich falošné tvrdenia navrhnutý tak, aby narušil americký politický systém.

Reklamy vyrábala a kupovala trollia farma podporovaná Kremľom v rokoch 2015 až 2017. Okrem zakúpených reklám výbor Snemovne reprezentantov pre spravodajské služby uviedol, že existuje najmenej "80 000 kusov organického" obsahu sociálnych médií vyrobených ruskými záujmami.

Príklad 2: Upravené video predstierajúce opilecké správanie

Ďalej sa zastavíme v roku 2019 pozrite si video to ukázalo, že vtedajšia predsedníčka Snemovne reprezentantov Nancy Pelosiová mlátila slová a vyzerala opitá. Toto bolo z videa Pelosiovej s prejavom na podujatí Center for American Progress (liberálne orientovaný „think tank“).

Video zdieľané na Facebooku viac ako 45 000-krát a s viac ako 23 000 komentármi bolo falošné. Pôvodné video bolo upravené tak, aby „jej hlas znel skomolený a pokrútený“ a aby vyzerala ako opitá.

Zbrojenie generatívnej AI v politických kampaniach

Fotografie, videá, zvuk a dokonca aj ručne písané listy boli v priebehu rokov sfalšované v službách politických špinavých trikov. Aj keď sa kvalita líšila na základe zručností falšovateľov, prax nie je žiadnou novinkou.

tiež: Ako vlastne ChatGPT funguje?

Majte to na pamäti, keď sa posunieme vpred k diskusii o deepfakes v čase generatívnej AI. Peggy Noonan, ktorá bola v minulom živote hlavnou autorkou prejavu prezidenta Ronalda Reagana, napísala to vo svojom stĺpci Wall Street Journal:

Takmer na každom stretnutí sa objavila umelá inteligencia. Povedal by som, že ľudia pristupujú k AI s voľne sa vznášajúcou hrôzou zakvasenou pragmatickým záväzkom vyťažiť z nej to najlepšie, zistiť, čo môže urobiť pre zlepšenie života. Nedá sa zastaviť o nič viac, ako dokážete zastaviť príliv. Je tu pocit: "Môže to prelomiť najhlbšie kódy rakoviny," v kombinácii s: "Môže sa to obrátiť proti nám a dostať nás jadrovými zbraňami."

To je asi zhrnuté. Keďže Noonan cestuje v riedkych politických kruhoch, toto vyhlásenie je dôkazom, ktorý si váži aj vrchná politická vrstva generatívna AI s pocitom znepokojenia.

To im, samozrejme, nebráni vo využívaní technológie vo svoj prospech.

Minulý mesiac použili priaznivci Rona DeSantisa, guvernéra Floridy a republikánskeho kandidáta na prezidenta, ktorý sa momentálne umiestnil na 2. pozícii na základe údajov z prieskumov. hlas generovaný AI na napodobňovanie prezidenta Trumpa v reklame, z ktorej sa zdalo, že bývalý republikánsky prezident útočí na republikánov.

tiež: Ako prinútiť ChatGPT poskytnúť zdroje a citácie

Aby bolo jasné, slová vyslovené AI boli založené na skutočný príspevok Trumpa na sociálnej sieti Truth Social. Reklama bola financovaná organizáciou Never Back Down PAC, ktorá technicky nie je spojená s guvernérom DeSantisom. však PAC výrazne podporuje DeSantis. PAC sa pravdepodobne domnieval, že použitie hlasu bývalého prezidenta s jeho vlastnými slovami by bolo efektívnejšie alebo realistickejšie, ako keby ich hlásateľ hovoril v hlasovom prejave.

In ďalšia reklama pripisovaná DeSantis, je zobrazený prezident Trump objímajúci doktora Anthonyho Fauciho. Toto bol obrázok vygenerovaný AI. Fauci je bývalým členom Trumpovej pracovnej skupiny pre koronavírusy, bývalým hlavným lekárskym poradcom Prezident a – takmer 40 rokov – riaditeľ Národného inštitútu pre alergie a infekčné choroby Choroby. Fauci, ako väčšina dobre vie, sa v prvých dňoch pandémie stal rozdeľujúcou postavou. Kampaň DeSantis sa zjavne pokúšala spojiť Trumpa s Faucim kvôli politickému zisku.

Účelom tohto článku nie je diskutovať o obsahu politických reklám. Namiesto toho sa treba zamerať na používanie AI a na to, čo to znamená vpred. Obrázky pána Trumpa objímajúceho doktora Fauciho boli pozoruhodné, pretože boli vytvorené AI.

V marci, Opísal New York Times ako Demokratická strana testovala použitie AI na zostavovanie správ na získavanie finančných prostriedkov, pričom „odvolania, ktoré často fungujú lepšie ako tie, ktoré napísali výlučne ľudské bytosti“.

tiež: Ako výskumníci prelomili ChatGPT a čo by to mohlo znamenať pre budúci vývoj AI

Denník The Times informoval aj o falošných obrázkoch vysielaných na sociálnych sieťach, ktoré ukazovali zatknutie prezidenta Trumpa v New Yorku.

Zatiaľ čo AI by sa určite mohla ukázať ako multiplikátor sily pre národné voľby, očakávam, že sa bude vo veľkej miere využívať v kampaniach, kde si nižšie rozpočty vyžadujú kreatívnejšie využitie zdrojov. Jedna takáto kampaň, napr Insider, bol za primátora Toronta. The Insider zdieľal obrázok z reklamného letáku vyrobeného v mene kandidáta Anthonyho Fureyho, na ktorom bola žena s tromi rukami.

Keď som sa pozrel online na obežník citovaný The Insider, nemal obrázok, ktorý ukázali v článku. Hádam túto chybu napravil Furey alebo jeho tím kampane. bez ohľadu na to, Furey prehral, ktorá sa umiestnila na štvrtom mieste, pričom víťaz získal sotva viac ako 10 % hlasov.

Takže aj keď AI môže pomôcť vytvoriť falošné snímky alebo znížiť náklady, nezaručuje výhru. Nič nerobí.

Čo to všetko znamená?

To, že kampaň používa generatívnu AI, neznamená, že ju používa ako zbraň. Existujú štyri hlavné kategórie použitia generatívnych nástrojov AI v kampaniach a iba jedna má výlučne negatívny charakter.

Hlboké falzifikáty a falzifikáty: Toto je ten, ktorý je potenciálne najničivejší. Kedykoľvek kampaň sfalšuje informácie, je to deštruktívne a patrí do kategórie špinavých trikov. Čo je teraz znepokojujúcejšie, je to, že AI umožňujú vytvárať falošné snímky oveľa väčšiemu počtu ľudí, takže to budeme pravdepodobne vidieť častejšie – a nielen z kampaní.

tiež: 6 vecí, ktoré ChatGPT nemôže robiť (a ďalších 20 odmieta robiť)

Pomoc pri zostavovaní reklám a listov: Očakávajte, že AI pomáha zamestnancom kampane pri zostavovaní reklám a listov. Aj keď obsah môže obsahovať nepravdivé alebo skreslené informácie, nie je to nič nové. Pracovníci kampane ohýbali pravdu v písomných dokumentoch dávno pred príchodom generatívnej AI.

Zvýšenie rýchlosti a prispôsobenie obsahu pre masový dosah: Najúčinnejšie kampane majú často rozsiahle databázy potenciálnych voličov, najmä potenciálnych darcov. Kupujú zoznamy, zhromažďujú údaje z predchádzajúcich kampaní a iných kandidátov a pokúšajú sa vytvárať profily, ktoré pomáhajú presne zacieliť na potenciálnych zákazníkov. Očakávajte, že generatívna umelá inteligencia sa použije na individuálnu kalibráciu úsilia v dosahu každého potenciálneho zákazníka, a to masovo.

Vykonávanie analýzy trendov a sentimentu s cieľom získať poznatky: V predchádzajúcom článku som ukázal aká výkonná môže byť AI pri získavaní prehľadov z údajov. V kampaniach sa často využíval softvér na dolovanie údajov na podnikovej úrovni, ale očakávajte výkon, jednoduchosť použitia a pomerne nízku cenu nástrojov, ako je napr. ChatGPT Plus s Code Interpreter, aby boli tieto možnosti dostupné na všetkých úrovniach kampaní.

tiež: Spýtal som sa ChatGPT, Binga a Barda, čo ich znepokojuje. Umelá inteligencia Google na mňa zasiahla Terminátora

Lawrence Pingree, viceprezident Gartner pre nové technológie a trendy – bezpečnosť, pridal niekoľko postrehov na túto tému. Pre ZDNET povedal:

Myslím si, že najväčším novým nebezpečenstvom je, že veľké jazykové modely generatívnej AI môžu byť teraz vybavené automatizáciou. Túto automatizáciu (príklady - AutoGPT, BabyAGI) je možné použiť na cielené dezinformačné kampane.

To výrazne uľahčuje politickým stranám alebo národným štátom vykonávať operácie vplyvu.

LLM môžu byť tiež spárované s deepfake technológiami na spustenie kampaní, ktoré môžu dokonca potenciálne vytvárať zvuk a video. Tieto typy nástrojov, ktoré sa prenesú do sociálnych médií, môžu vytvoriť veľmi zložité digitálne prostredie pre voličov, ktorí chcú poznať pravdu.

Keď sa pozrieme na generatívnu AI v kampaniach, skutočný dopad bude mimo prezidentských kampaní. Prezidentské kampane majú predsa veľké peniaze.

Podľa Federálna volebná komisia"Kandidáti na prezidenta vyzbierali a minuli 4,1 miliardy dolárov počas 24 mesiacov volebného cyklu 2019-2020." Podľa na Otvorené tajomstvá, ktorá sleduje výdavky na voľby, priemerný víťazný kandidát do Senátu USA minul 15,7 milióna dolárov, zatiaľ čo priemerný kandidát Snemovne reprezentantov minul vo voľbách v roku 2018 2 milióny dolárov.

Niektoré miestne kampane majú pomerne veľké rozpočty kampaní. Napríklad, tešíme sa na voľby v roku 2024 do mestskej rady Los Angeles a zjednoteného školského obvodu Los AngelesKandidátka na mestskú radu 2. okresu Adrin Nazarian už vyzbierala 432 000 dolárov, zatiaľ čo kandidátka 3. okresu LAUSD Janie Dam už vyzbierala 38 000 dolárov.

Majte to na pamäti LA District 2 mal 2020 obyvateľov 793 342 ľudí. Celkovo samotný okres LA má 9,7 milióna obyvateľov. Naproti tomu malé historické vidiecke mestečko, v ktorom žijem tu v Oregone, má menej ako 10 000 ľudí.

tiež: Detekcia deepfake v reálnom čase: Ako Intel Labs používa AI na boj proti dezinformáciám

Menšie kampane, najmä kampane v mestách veľkosti mojej, majú oveľa menšie vojnové truhlice ako národné kampane. Generatívne nástroje AI môžu poskytnúť aj tým najmenším nástrojom na analýzu kampaní, ktoré boli predtým dostupné len pre kampane so šesť- a sedemciferným rozpočtom.

Takže aj keď môžeme určite očakávať, že prezidentské kampane budú využívať AI na to, aby postavili protichodných kandidátov do kompromitujúcich pozícií (alebo aspoň vykreslili spôsobom, akým by sa priaznivci červeného mäsa rozhodli zdieľať prostredníctvom sociálnych médií), očakávajú, že najväčší vplyv generatívnej umelej inteligencie bude vidieť ďaleko dole lístok.

Zostaňte naladení, pretože zatiaľ čo špinavé triky z kampane sú tu odjakživa, teraz ich určite uvidíme viac, keďže každý má prístup k nástrojom, vďaka ktorým je absurdne ľahké ich spáchať.

Chce sa ti z toho všetkého plakať? No, pamätajte: George Washington tu plakal.

---

Môžete sledovať moje každodenné aktualizácie projektu na sociálnych sieťach. Nezabudnite sa prihlásiť na odber môjho týždenného informačného bulletinu na Substacka sledujte ma na Twitteri na adrese @DavidGewirtz, na Facebooku na adrese Facebook.com/DavidGewirtz, na Instagrame na Instagram.com/DavidGewirtza na YouTube na adrese YouTube.com/DavidGewirtzTV.