ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА У ПОГРЕШНИМ РУКАМА – СУОЧАВАЊЕ СА DEEPFAKE ТЕХНОЛОГИЈОМ
Деца најрањивије жртве злоупотребе идентитета
Софтвер потенцијално може да искористи фотографију или видео запис који су доступни на друштвеним мрежама било ког детета и да га претворе у садржај дечје порнографије. Нападачи претњама да ће обавестити жртвине пријатеље, породицу и школу о deepfake снимку могу дете додатно уцењивати. Жртва потенцијално може бити свако, наводи Катарина Јонев Ћираковић, стручњак за безбедност деце на интернету
Развојем и све широм применом вештачке интелигенције створиле су се и бројне могућности за злоупотребу. Технологија је почела да се користи за креирање лажних порнографских садржаја, а на удару су и они најосетљивији – деца. Фотографије и видео записи који настају на овај начин веома су уверљиви, а било која фотографија детета се може искористити за њихово креирање.
Креирање лажних садржаја коришћењем вештачке интелигенције, односно deepfake (дипфејк) . Креирају га алгоритми засновани на стварним узорцима фотографија, гласа, звука или видеа који су спојени заједно.Термин је настао је комбинацијом речи дубоко учење „deep learning“ (дип лрнинг) и речи лажан односно „fake“ (фејк).
-Deepfake технологија користи вештачку интелигенцију и алгоритме машинског учења за манипулацију дигиталним садржајем. Алгоритми су подешени да створе веома реалистичне записе. Технички то изгледа овако: ГАН мреже укључују две неуронске мреже које раде ,,једна уз другу”. Једна мрежа генерише лажне слике или видео записе, док друга мрежа покушава да идентификује да ли је садржај стваран или лажан. Овај процес се наставља све док се лажни садржај не може разликовати од стварног стварајући веома реалистичне деепфаке материјале, наводи Катарина Јонев Ћираковић, стручњак за безбедност деце на интернету.
Катарина Јонев Ћираковић, Фото: Приватна архива
Истиче да је посебно забрињавајућа могућност искоришћавања деце од стране криминалаца на овај начин. Поред тога што такав садржај може да буде узнемирујући за децу, долази у руке педофила, а може служити и за малтретирање и уцењивање жртве.
-Софтвер потенцијално може да искористи фотографију или видео запис који су доступни на друштвеним мрежама било ког детета и да га претворе у садржај дечје порнографије. Стварање оваквих слика сексуалног злостављања подстиче тржиште дечје порнографије, доводећи децу даље у опасност . Деца и тинејџери су посебно рањиви, јер технологија може имати разорне последице по њихово ментално здравље, безбедност, приватност, достојаноство. Ова технологија отежава многима да разликују праве и лажне слике или видео записе. Отежава и родитељима да заштите своју децу од претњи на мрежи. Иако дете можда неће бити физички повређено, стварање deepfake записа је облик сексуализације детета.
Потенцијална штета која се може нанети деци због deepfake технологије је без преседана, јер се било која дечја слика може искористити за стварање штетног материјала, наводи Јонев Ћираковић. Једном направљен лажни материјал може имати трајне последице. Због тога је изузетно важно децу едуковати о овој теми и упозорити их на опасности deepfake, али и посаветовати како да реагују ако се нађу у ситуацији да буду злоупотребљени.
-Ако дете сазна за сексуализоване фотографије или видео записе, уследиће низ додатних проблема. Примери укључују осећај немоћи и анксиозности због броја људи који су погледали материјал, као и осећања стида и кривице. Ово може имати дубок и дуготрајан психолошки утицај на дете које је жртва. Може доћи и до даљих последица, као што су малтретирање од стране вршњака, социјална искљученост, или сексуална изнуда. Нападачи претњама да ће обавестити жртвине пријатеље, породицу и школу о deepfake снимку могу дете додатно уцењивати, нпр. да дете мора да уплати новац да се снимак не би слао. Намерно, циљајући на децу, криминалци искоришћавају њихову рањивост, нестабилност и ограничену способност да траже помоћ на исти начин као и одрасли. Због тога је едукација деце о сајбер нападима кључна за њихову безбедност, каже Јонев Ћираковић.
Петиција за безбедан интернет Катарина Јонев Ћираковић у 23.години је дипломирала на основним студијама Факултета политичких наука, смер међународни односи. Мастер студије међународног јавног права на Правном факултету завршила је у 25. години. Мастер рад под називом ”Сајбер безбедност и међународни односи” била је прва мастер теза на Правном факултету која се бавила сајбер безбедношћу са освртом и импликацијама у међународним односима. Рад је одбранила са оценом 10. Докторант је Факултета политичких наука. Недавно је постала амбасадор пројекта организације ,,Justice Initiative” из Швајцарске којим се захтева интернет безбедан за децу. Покренута је онлајн петиција на нивоу Европе, која има за циљ превенцију и борбу против сексуалне експлоатације деце. -Велико ми је задовољство што сам Амбасадор пројекта за Србију јер су и наша деца угрожена. Брзина којом су предатори преузели нове технологије и почеле да их користе на најужасније начине заиста брине, али колико нас заиста изненађује? Платформе, сајтови и друштвене мреже све више изговарају празне флоскуле о безбедности и безбедности деце, али у реалности предатори проналазе начин да угрозе најрањивије. Технолошке компаније очито морају да буду много свесније и да знају како се њихове платформе користе за олакшавање сексуалног злостављања деце и више не може бити изговора за неактивност и склањање погледа у страну. Предлог петиције тиче се подизања свести али и ојачавање регулативе о безбедности на интернету која ће захтевати од компанија да предузму проактивне мере у борби против свих облика онлајн сексуалног злостављања деце, укључујући груминг, стриминг уживо, фотографије и видео материјал о сексуалном злостављању деце, или ће се суочити са огромним последицима. Зато је битно да подржите и да својим потписом подржите петицију, истиче Катарина Јонев Ћираковић. Линк за петицију може се потписати на сајту Justice Initiative.
Подједнако је важна и едукација родитеља. Наша саговорница наводи да многи родитељи не само да нису свесни ризика и изазова повезаних са deepfake технологијом, него не знају ни да она постоји.
-Подизање свести родитеља и едукација о ризицима је од кључног значаја. Ова технологија из дана у дан постаје све софистициранија. То отежава препознавање лажног садржаја. Родитељи морају бити свесни изазова и предузети кораке да заштите своју децу, укључујући њихово образовање о ризицима и изазовима повезаним са deepfake технологијом и праћење њихових активности на мрежи. Жртва потенцијално може бити свако! Напори на превенцији треба да се фокусирају на едукацију деце, родитеља и друштва у целини о безбедном коришћењу интернета и друштвених мрежа као и потенцијалним ризицима повезаним са дељењем личних слика и информација на интернету, подвлачи Катарина Јонев Ћираковић.
Катарина Јонев Ћираковић, Фото: Приватна архива
