VEŠTAČKA INTELIGENCIJA U POGREŠNIM RUKAMA – SUOČAVANjE SA DEEPFAKE TEHNOLOGIJOM
Deca najranjivije žrtve zloupotrebe identiteta
Softver potencijalno može da iskoristi fotografiju ili video zapis koji su dostupni na društvenim mrežama bilo kog deteta i da ga pretvore u sadržaj dečje pornografije. Napadači pretnjama da će obavestiti žrtvine prijatelje, porodicu i školu o deepfake snimku mogu dete dodatno ucenjivati. Žrtva potencijalno može biti svako, navodi Katarina Jonev Ćiraković, stručnjak za bezbednost dece na internetu
Razvojem i sve širom primenom veštačke inteligencije stvorile su se i brojne mogućnosti za zloupotrebu. Tehnologija je počela da se koristi za kreiranje lažnih pornografskih sadržaja, a na udaru su i oni najosetljiviji – deca. Fotografije i video zapisi koji nastaju na ovaj način veoma su uverljivi, a bilo koja fotografija deteta se može iskoristiti za njihovo kreiranje.
Kreiranje lažnih sadržaja korišćenjem veštačke inteligencije, odnosno deepfake (dipfejk) . Kreiraju ga algoritmi zasnovani na stvarnim uzorcima fotografija, glasa, zvuka ili videa koji su spojeni zajedno.Termin je nastao je kombinacijom reči duboko učenje „deep learning“ (dip lrning) i reči lažan odnosno „fake“ (fejk).
-Deepfake tehnologija koristi veštačku inteligenciju i algoritme mašinskog učenja za manipulaciju digitalnim sadržajem. Algoritmi su podešeni da stvore veoma realistične zapise. Tehnički to izgleda ovako: GAN mreže uključuju dve neuronske mreže koje rade ,,jedna uz drugu”. Jedna mreža generiše lažne slike ili video zapise, dok druga mreža pokušava da identifikuje da li je sadržaj stvaran ili lažan. Ovaj proces se nastavlja sve dok se lažni sadržaj ne može razlikovati od stvarnog stvarajući veoma realistične deepfake materijale, navodi Katarina Jonev Ćiraković, stručnjak za bezbednost dece na internetu.
Katarina Jonev Ćiraković, Foto: Privatna arhiva
Ističe da je posebno zabrinjavajuća mogućnost iskorišćavanja dece od strane kriminalaca na ovaj način. Pored toga što takav sadržaj može da bude uznemirujući za decu, dolazi u ruke pedofila, a može služiti i za maltretiranje i ucenjivanje žrtve.
-Softver potencijalno može da iskoristi fotografiju ili video zapis koji su dostupni na društvenim mrežama bilo kog deteta i da ga pretvore u sadržaj dečje pornografije. Stvaranje ovakvih slika seksualnog zlostavljanja podstiče tržište dečje pornografije, dovodeći decu dalje u opasnost . Deca i tinejdžeri su posebno ranjivi, jer tehnologija može imati razorne posledice po njihovo mentalno zdravlje, bezbednost, privatnost, dostojanostvo. Ova tehnologija otežava mnogima da razlikuju prave i lažne slike ili video zapise. Otežava i roditeljima da zaštite svoju decu od pretnji na mreži. Iako dete možda neće biti fizički povređeno, stvaranje deepfake zapisa je oblik seksualizacije deteta.
Potencijalna šteta koja se može naneti deci zbog deepfake tehnologije je bez presedana, jer se bilo koja dečja slika može iskoristiti za stvaranje štetnog materijala, navodi Jonev Ćiraković. Jednom napravljen lažni materijal može imati trajne posledice. Zbog toga je izuzetno važno decu edukovati o ovoj temi i upozoriti ih na opasnosti deepfake, ali i posavetovati kako da reaguju ako se nađu u situaciji da budu zloupotrebljeni.
-Ako dete sazna za seksualizovane fotografije ili video zapise, uslediće niz dodatnih problema. Primeri uključuju osećaj nemoći i anksioznosti zbog broja ljudi koji su pogledali materijal, kao i osećanja stida i krivice. Ovo može imati dubok i dugotrajan psihološki uticaj na dete koje je žrtva. Može doći i do daljih posledica, kao što su maltretiranje od strane vršnjaka, socijalna isključenost, ili seksualna iznuda. Napadači pretnjama da će obavestiti žrtvine prijatelje, porodicu i školu o deepfake snimku mogu dete dodatno ucenjivati, npr. da dete mora da uplati novac da se snimak ne bi slao. Namerno, ciljajući na decu, kriminalci iskorišćavaju njihovu ranjivost, nestabilnost i ograničenu sposobnost da traže pomoć na isti način kao i odrasli. Zbog toga je edukacija dece o sajber napadima ključna za njihovu bezbednost, kaže Jonev Ćiraković.
Peticija za bezbedan internet Katarina Jonev Ćiraković u 23.godini je diplomirala na osnovnim studijama Fakulteta političkih nauka, smer međunarodni odnosi. Master studije međunarodnog javnog prava na Pravnom fakultetu završila je u 25. godini. Master rad pod nazivom ”Sajber bezbednost i međunarodni odnosi” bila je prva master teza na Pravnom fakultetu koja se bavila sajber bezbednošću sa osvrtom i implikacijama u međunarodnim odnosima. Rad je odbranila sa ocenom 10. Doktorant je Fakulteta političkih nauka. Nedavno je postala ambasador projekta organizacije ,,Justice Initiative” iz Švajcarske kojim se zahteva internet bezbedan za decu. Pokrenuta je onlajn peticija na nivou Evrope, koja ima za cilj prevenciju i borbu protiv seksualne eksploatacije dece. -Veliko mi je zadovoljstvo što sam Ambasador projekta za Srbiju jer su i naša deca ugrožena. Brzina kojom su predatori preuzeli nove tehnologije i počele da ih koriste na najužasnije načine zaista brine, ali koliko nas zaista iznenađuje? Platforme, sajtovi i društvene mreže sve više izgovaraju prazne floskule o bezbednosti i bezbednosti dece, ali u realnosti predatori pronalaze način da ugroze najranjivije. Tehnološke kompanije očito moraju da budu mnogo svesnije i da znaju kako se njihove platforme koriste za olakšavanje seksualnog zlostavljanja dece i više ne može biti izgovora za neaktivnost i sklanjanje pogleda u stranu. Predlog peticije tiče se podizanja svesti ali i ojačavanje regulative o bezbednosti na internetu koja će zahtevati od kompanija da preduzmu proaktivne mere u borbi protiv svih oblika onlajn seksualnog zlostavljanja dece, uključujući gruming, striming uživo, fotografije i video materijal o seksualnom zlostavljanju dece, ili će se suočiti sa ogromnim posledicima. Zato je bitno da podržite i da svojim potpisom podržite peticiju, ističe Katarina Jonev Ćiraković. Link za peticiju može se potpisati na sajtu Justice Initiative.
Podjednako je važna i edukacija roditelja. Naša sagovornica navodi da mnogi roditelji ne samo da nisu svesni rizika i izazova povezanih sa deepfake tehnologijom, nego ne znaju ni da ona postoji.
-Podizanje svesti roditelja i edukacija o rizicima je od ključnog značaja. Ova tehnologija iz dana u dan postaje sve sofisticiranija. To otežava prepoznavanje lažnog sadržaja. Roditelji moraju biti svesni izazova i preduzeti korake da zaštite svoju decu, uključujući njihovo obrazovanje o rizicima i izazovima povezanim sa deepfake tehnologijom i praćenje njihovih aktivnosti na mreži. Žrtva potencijalno može biti svako! Napori na prevenciji treba da se fokusiraju na edukaciju dece, roditelja i društva u celini o bezbednom korišćenju interneta i društvenih mreža kao i potencijalnim rizicima povezanim sa deljenjem ličnih slika i informacija na internetu, podvlači Katarina Jonev Ćiraković.
Katarina Jonev Ćiraković, Foto: Privatna arhiva
