Deepfakeovi postaju sve bolji u oponašanju stvarnih ljudi. Uskoro će to svima biti problem.
Video konferencijski poziv koji se odvija unutar ureda - ali je li osoba s druge strane poziva stvarno ono za što se predstavlja?
Da tekuća borba protiv ransomwarea nije zaokupljala sigurnosne timove, zajedno s izazovima osiguravanja galaksije Interneta koja se neprestano širi uređaja ili računalstva u oblaku, tada je na horizontu novi izazov – zaštita od nadolazećeg vala digitalnih varalica ili deepfakes.
Deepfake video koristi umjetnu inteligenciju i tehnike dubokog učenja za proizvodnju lažnih slika ljudi ili događaja.
Sigurnost
- 8 navika iznimno sigurnih radnika na daljinu
- Kako pronaći i ukloniti špijunski softver s telefona
- Najbolje VPN usluge: Kako se uspoređuju prvih 5?
- Kako saznati jeste li uključeni u povredu podataka -- i što učiniti sljedeće
Jedan nedavni primjer je kada je gradonačelnik Berlina misao imao je online sastanak s bivšim boksačkim prvakom i sadašnjim gradonačelnikom Kijeva Vitalijem Kličkom.
VIDJETI: Ovo su prijetnje kibernetičkoj sigurnosti sutrašnjice o kojima biste trebali razmišljati već danas
No, gradonačelnik Berlina je postao sumnjičav kada je 'Kličko' počeo govoriti neke vrlo neobične stvari u vezi s invazijom na Ukrajinu, i kada je poziv je prekinut ured gradonačelnika kontaktirao je ukrajinskog veleposlanika u Berlinu – kako bi otkrio da, s kim god da su razgovarali, to nije bio pravi Kličko.
Varalica je također navodno razgovarala s drugim europskim gradonačelnicima, ali u svakom slučaju izgleda kao da su razgovarali s deepfake, lažni video generiran umjetnom inteligencijom koji izgleda kao pravi ljudski govor.
To je znak da deepfakeovi postaju sve napredniji i brži. Prethodni primjeri deepfake videozapisa koji su postali viralni često imaju znakove koji govore da nešto nije stvarno, kao što su neuvjerljive izmjene ili čudni pokreti.
Čini se da je cijelu ovu epizodu netko izmislio samo da izazove nevolje – ali razvoj događaja u deepfakeu tehnologija znači da nije teško zamisliti da je iskorištavaju kibernetički kriminalci, osobito kada je riječ o krađi novac.
Kao takav, ovaj incident također je upozorenje: da deepfakeovi omogućuju novi niz prijetnji – ne samo za gradonačelnike, već za sve nas.
Dok ransomware moglo generirati više naslova, kompromis poslovne e-pošte (BEC) najskuplji je oblik kibernetičkog kriminala danas. FBI procjenjuje da to tvrtke košta milijarde dolara svake godine.
Najčešći oblik BEC napada uključuje cyber kriminalce koji iskorištavaju e-poštu, hakiranje u račune koji pripadaju šefovima – ili vješto lažiranje njihovih računa e-pošte – i traženje od osoblja da odobri velike financijske transakcije, koje često mogu doseći stotine tisuća dolara.
U mailovima se tvrdi da novac treba hitno poslati, možda u sklopu tajnog poslovnog dogovora koji se nikome ne smije otkriti. To je klasičan trik društvenog inženjeringa osmišljen kako bi se žrtva natjerala da brzo prebaci novac i bez traženja potvrde od bilo koga drugoga tko bi mogao otkriti da se radi o lažnom zahtjevu.
U trenutku kada bi netko mogao posumnjati, cyber kriminalci su uzeli novac, vjerojatno zatvorili bankovni račun koji su koristili za prijenos - i pobjegli.
BEC napadi su uspješni, ali mnogi ljudi mogu ostati sumnjičavi prema e-poruci svog šefa koja izađe na vidjelo i mogli bi izbjeći da postanu žrtve razgovarajući s nekim da potvrdi da nije stvaran.
No kad bi cyber kriminalci mogli upotrijebiti deepfake za slanje zahtjeva, moglo bi biti mnogo teže za žrtve da odbiju zahtjev jer vjeruju da zapravo razgovaraju sa svojim šefom fotoaparat.
Mnoge tvrtke javno navode svoje upravne odbore i više rukovodstvo na svojim web stranicama. Često će ti poslovni rukovoditelji na visokoj razini govoriti na događajima ili u medijima, pa je moguće pronaći snimke njihovog govora.
VIDJETI: Osiguranje oblaka (ZDNet posebna značajka)
Korištenjem tehnika dubinskog učenja koje pokreće AI, kibernetički kriminalci mogu iskoristiti ove javne informacije za stvaranje deepfakea rukovoditelja više razine, iskoristite ranjivosti e-pošte kako biste zatražili videopoziv sa zaposlenikom, a zatim ih zamolite da transakcija. Ako žrtva vjeruje da razgovara sa svojim izvršnim direktorom ili šefom, malo je vjerojatno da će odbiti zahtjev.
Prevaranti su već koristili umjetnu inteligenciju kako bi uvjerili zaposlenike da razgovaraju sa svojim šefom telefonom. Dodavanjem elementa videa bit će još teže otkriti da oni zapravo razgovaraju s prevarantima.
FBI je već upozorio na to cyber kriminalci koriste deepfake za prijavu na poslove IT podrške na daljinu, uloge koje bi omogućile pristup osjetljivim osobnim podacima osoblja i kupaca koji bi mogli biti ukradeni i iskorišteni.
Agencija je također upozorila da će hakeri koristiti deepfake i drugi sadržaj generiran umjetnom inteligencijom za operacije stranog utjecaja – vjerojatno je to nešto u tom smislu što je ciljalo gradonačelnike.
Dok napredak u tehnologiji znači da postaje sve teže razlikovati deepfake sadržaj od stvarnog videa, FBI je izdao savjete o tome kako uočiti deepfake, koji uključuje krivljenje videa, čudne pokrete glave i torza, zajedno s problemima sinkronizacije između pokreta lica i usana te bilo kojeg povezanog zvuka.
No deepfake bi lako mogao postati novi vektor za kibernetički kriminal i bit će prava borba obuzdati taj trend. Sasvim je moguće da će organizacije morati osmisliti novi skup pravila oko provjere autentičnosti odluka donesenih na mrežnim sastancima. To je također izazov za autentičnost rada na daljinu – što znači ako ne možete vjerovati onome što vidite na ekranu?
Što su tvrtke i njihovi ljudi sada svjesniji potencijalnih rizika koje predstavljaju zlonamjerni deepfakeovi, to će biti lakše zaštititi se od napada – inače smo u problemu.
ZDNET'S PONEDJELJAK OTVARANJE
ZDNet's Monday Opener naš je uvodni prikaz tjedna u tehnologiji, koji su napisali članovi našeg uredničkog tima.
PRETHODNO U ZDNETOVOM OTVARANJU U PONEDJELJAK:
-
Voljeli to ili mrzili, Generacija Z potiče rad u uredu
-
Rad na daljinu ili u uredu? Zašto bi se plima mogla ponovno okrenuti
-
Četverodnevni tjedan riješit će neke od najvećih radnih problema - ali samo ako se tvrtke mogu prilagoditi
- Rad na daljinu ili povratak u ured? Računica se samo ponovno promijenila
- Kada je riječ o plaćanju radnika na daljinu, neke tvrtke još uvijek griješe
- Muskov Twitter cilj autentifikacije svih korisnika dobar je za ukidanje botova, ali loš za ljude
- Rad na daljinu ili povratak u ured? Vlada je samo odabrala pogrešnu stranu ovog argumenta