Ko Deepfake prepriča delavca, da se pogovarja z direktorjem

Ko Deepfake prepriča delavca, da se pogovarja z direktorjem

M.M.
16.02.2024, 4:01
0
AI v rokah negativcev je izredno močno orožje. Poglejte, kako je zaposleni menil, da mu navodila prek videokonferenčnega klica podaja direktor.

Po podatkih hongkonške policije je bil finančni uslužbenec v mednarodnem podjetju prepričan, da se prek videokonferenčnega klica pogovarja s finančnim direktorjem, poroča ameriška spletna stran CNN. A na drugi strani so bili prevaranti, ki so s pomočjo tehnologije Deepfake dosegli, da jim je zaposleni nakazal več kot 23 milijonov evrov.  

Še več: videoklic je bil skupinski, tako da je zaposleni mislil, da je tam cel oddelek njegovih sodelavcev in direktor iz matičnega podjetja. A le on je bil resničen, vsi drugi so bili prevaranti. 

"V videokonferenci več oseb se je izkazalo, da so bili vsi, ki jih je videl, lažni," je za mestno javno radiotelevizijo RTHK povedal višji inšpektor Baron Chan Shun-ching.

Najprej je menil, da je sporočilo sumljivo, a videokonferenca ga je prepričala, da je vse v najlepšem redu ...

Chan je dejal, da je zaposleni najprej prejel sporočilo, ki naj bi bilo od finančnega direktorja podjetja iz Združenega kraljestva. Sumil je, da gre za lažno elektronsko sporočilo, saj je bilo navedeno, da mora nujno opraviti eno transakcijo, o kateri mora molčati. 

Sledil je video klic in takrat je zaposleni menil, da je vse v najlepšem redu in da mu ni treba skrbeti. Tam so bili tudi njegovi sodelavci, ki jih je poznal. 

V prepričanju, da so vsi ostali udeleženci klica resnični, se je delavec strinjal, da bo nakazal skupaj 200 milijonov hongkonških dolarjev, kar je več kot 23 milijonov evrov. 

Gre za enega od primerov, v katerih naj bi goljufi s pomočjo tehnologije deepfake spreminjali javno dostopne videoposnetke in druge posnetke, da bi od ljudi izvabili denar. Tovrstne prevare se kar vrstijo, hongkonška policija pa je na novinarski konferenci povedala, da je v zvezi s takšnimi goljufijami aretirala šest oseb.

Deepfake, Barack Obama
Deepfake, Barack ObamaFOTO: AP

Kako deluje prevara?

Chan je razložil, da se v teh prevarah uporabijo ukradeni osebni dokumenti. Kar osem ukradenih hongkonških osebnih izkaznic (vse so lastniki prijavili kot izgubljene) so med lanskim julijem in septembrom uporabili za 90 vlog za posojilo in 54 registracij bančnih računov.

Po navedbah Policije so nepridipravi v vsaj 20 primerih uporabili Deepfake tehnologijo, da bi z imitacijo oseb na osebnih izkaznicah prevarali programe za prepoznavanje obrazov.

Organi pregona po vsem svetu so vse bolj zaskrbljeni zaradi napredovanja tehnologije "deepfake" in možnosti za njeno uporabo v kaznive namene.

Konec januarja so se po družbenih medijih razširile pornografske fotografije ameriške pop zvezdnice Taylor Swift, ki jih je ustvarila umetna inteligenca, kar je še poudarilo škodljive možnosti tehnologije umetne inteligence. Fotografije, na katerih je pevka v spolno sugestivnih in eksplicitnih položajih, so bile pred odstranitvijo z družbenih platform ogledane več desetmilijonkrat.

Povzeto po CNN.