Propaganda u digitalno doba: Kako kibernetičke operacije utjecaja uništavaju povjerenje
U današnjim operacijama s ciljem stjecanja vanjskog utjecaja koriste se nove metode i tehnologije, pa su njihove kampanje osmišljene za učinkovitije narušavanje povjerenja.
Nacionalne države sve više koriste sofisticirane operacije utjecaja za distribuciju propagande i utjecanje na javno mišljenje, i na nacionalnoj razini i na međunarodnoj. Ove kampanje narušavaju povjerenje, povećavaju polarizaciju i prijete demokratskim procesima.
Akteri koji su vješti, napredni i uporni manipulatori koriste tradicionalne medije zajedno s internetom i društvenim medijima kako bi uvelike povećali opseg, razinu i učinkovitost svojih kampanja te izrazito velik utjecaj koji imaju na globalni informacijski ekosustav.
Sintetički medijski sadržaj postaje sve rasprostranjeniji zbog sve više alata kojima se jednostavno stvaraju i šire izrazito realistične umjetne slike, video i audio sadržaj. Tehnologija digitalnog podrijetla kojom se certificira podrijetlo medijski resursa obećava da će se boriti s zlouporabom.
Potreban je holistički pristup rješenjima zaštite od kibernetičkih operacija utjecaja. Microsoft gradi svoju već spremnu infrastrukturu obavještavanja u vezi računalnih prijetnji u svrhe borbe protiv kibernetičkih operacija utjecaja. Naša je strategija otkriti, poremetiti i sprječavati propagandne kampanje stranih agresora te ih odvratiti.
Rast od 900 % godinu za godinom u rastu deepfake medija od 2019.1
Kibernetičke operacije utjecaja postaju sve sofisticiranije kako se tehnologija razvija. Svjedočimo preklapanju i širenju alata koji se koriste u tradicionalnim računalnim napadima, a primjenjuju se i u kibernetičkim operacijama utjecaja. Dodatno, opazili smo povećanu koordinaciju i povećanje među nacionalnim državama.
Autoritarni režimi diljem svijeta zajedno rade kako bi onečistili ekosustav informacija u svoju međusobnu korist. Međusobnim pojačavanjem medijske kuće kojima upravlja država stvaraju ekosustav u kojem se negativno izvješćivanje o demokracijama, ili pozitivno o saveznicima, a koje je proizvela jedna medijska kuća, jača od strane drugih.
Da bi izazov bio još veći, subjekti u tehnologiji privatnog sektora možda nehotimice omogućavaju ove kampanje. Oni koji to omogućavaju mogu obuhvaćati poduzeća koja registriraju internetske domene, hostiraju web-mjesta, promiču materijale na društvenim mrežama i mjestima za pretraživanje, kanaliziraju promet i pomažu u plaćanju ovih vježbi preko digitalnog oglašavanja.
Tvrtke ili ustanove moraju biti svjesne alata i metoda koje autoritarni režimi primjenjuju u kibernetičkim operacijama utjecaja kako bi mogle otkriti pa spriječiti širenje kampanja.
Također postoji sve veća potreba za pomaganjem korisnicima da razviju sofisticiraniju sposobnost identifikacije stranih operacija utjecaja i ograničenja angažmana s njihovim narativima ili sadržajem.
Povećana koordinacija i dijeljenje informacija u vladama, privatnom sektoru i civilnom društvu potrebni su radi povećanja transparentnosti te razotkrivanja i ometanja ovih kampanja utjecaja.
- Stranim se kibernetičkim operacijama utjecaja uvodi propaganda – ponekad uključuje lažne narative – u javnoj domeni na internetu i ponekad preko stvarnih događaja ili provokacija. Lažni narativi koji se ne primjećuju na internetu mogu naknadne reference učiniti vjerodostojnijima.
Primjer br. 1
Rubna, urotnička web-mjesta povezana s ruskim i iranskim državnim medijima objavila su intervju početkom pandemije s profesorom prava koji je rekao da je COVID-19 biološko oružje stvoreno u Sjedinjenim Američkim Državama.
Primjer br. 2
Dana 7. ožujka Rusija je pretpozicionirala narativ u Ujedinjenim narodima (UN) da je rodilište u Mariupolju, Ukrajina, ispražnjeno te da se koristi kao vojna lokacija.
- Koordinirana kampanja pokrenuta je radi prenošenja narativa preko medijskih kuća i kanala društvenih mreža koje podržava vlada i na koje se vrši utjecaj.
Primjer br. 1
U veljači 2020. medijska kuća PRESSTV, koju sponzorira iranska vlada, objavila je reportažu na engleskom jeziku o tom intervjuu, a ruske državne medijske kuće i kineski državni računi uskoro su počeli komentirati na nju.Primjer br. 2
Dana 9. ožujka Rusija je bombardirala tu bolnicu. Kada su se pojavile vijesti o bombardiranju, ruski predstavnik u UN-u objavio je na Twitteru da je izvješćivanje o bombardiranju „lažna vijest” i citirao ranije tvrdnje Rusije o navodnom korištenju te bolnice kao vojne lokacije. - Konačno, medijske kuće kojima upravlja nacionalna država te zastupnici pojačavaju narative unutar ciljane publike. Često tehnologija nehotimice omogući širenje dosega tih narativa.
Primjer br. 1
Russia Today (RT) – medijska kuća u vlasništvu države – također je objavila najmanje jednu reportažu u kojoj su se promicale izjave iranskih službenika koji su tvrdili da COVID-19 može biti „proizvod ’američkog biološkog napada’ čije su mete Iran i Kina” te je širila objavu na društvenim mrežama upravo o ovome.Primjer br. 2
Rusija je zatim širila ovu narativu na web-mjestima kojima upravlja Rusija na dva tjedna nakon napada na bolnicu. Povećanje ovih reportaža na mreži Rusiji daje sposobnost da preusmjeri krivnju na međunarodnu pozornicu i izbjegne odgovornost.
Montirani mediji
Ulazimo u zlatno doba stvaranja medijskog sadržaja potpomognutog umjetnom inteligencijom te manipulacije istim. Microsoftovi analitičari kažu da je to potaknuto dvama ključnim trendovima: povećanjem alata jednostavnim za uporabu i usluga za umjetno stvaranje izrazito realističnih sintetičkih slika, videozapisa, zvuka i teksta te sposobnošću brzog širenja sadržaja optimiziranog za posebnu publiku.
Područje sintetičkog teksta i medijskog sadržaja napreduje nevjerojatnom brzinom i vrlo brzo dolazimo do točke u kojoj bilo tko može stvoriti sintetički video bilo koje osobe koga govori ili radi bilo što.
Deepfake medijski sadržaj: sintetički tekst i medijske tehnike
Ove se tehnike mogu koristiti u pokušajima ucjenjivanja pojedinca, poduzeća ili ustanove ili stavljanja pojedinaca na sramotne lokacije ili u sramotne situacije. Takve se napredne tehnike koje se temelje na umjetnoj inteligenciji danas još ne koriste naširoko u kibernetičkim kampanjama utjecaja, ali očekujemo da će problem rasti kako alati postaju sve jednostavniji za uporabu te sve dostupniji.
- Zamjena lica u videozapisu drugim licem
- Korištenje videozapisa za animiranje statične slike ili drugog videozapisa
- Skupina tehnika za generiranje fotografski realističnih slika
- Stvaranje bogatih slika iz opisa teksta
Primjena informacijskih operacija radi stvaranje štete ili širenja utjecaja nije nešto novo. Međutim, brzina kojom se informacije mogu širiti i naša nemogućnost da brzo razdvojimo činjenice od fikcije znači da utjecaj i šteta koje stvaraju lažni i ostali sintetički generirani zlonamjerni medijski sadržaj mogu biti puno veći.
Nekoliko je kategorija štete koje možemo razmotriti: tržišna manipulacija, prijevare u vezi s plaćanjem, krađa identiteta putem poziva, oponašanje, šteta napravljena robnoj marki, šteta napravljena reputaciji i botneti. Mnoge ove kategorije naširoko nalazimo u stvarnim primjerima, što može potkopati našu sposobnost razlikovanja činjenice od fikcije.
Dugoročnija i podmuklija prijetnja je prijetnja našem razumijevanju što je istinito ako više ne možemo vjerovati onome što vidimo i čujemo. Zbog ovog se bilo koja kompromitirajuća slika, zvuk ili video javne ili privatne osobe može odbaciti kao lažna – ishod poznat kao Dividenda lažljivca.2
U tijeku su napori u sektoru, vladi i akademskim ustanovama za razvijanje boljih načina otkrivanja i ublažavanja sintetičkog medijskog sadržaja i vraćanja povjerenja. Postoji nekoliko obećavajućih puteva, kao i prepreka koje treba razmotriti.
Namjena je Microsoftova strateškog okvira pomoći dionicima u raznim sektorima da otkriju, poremete i spriječe propagande te ih odvrate – posebice kampanje stranih agresora.
Otkrivanje
Kao kod kibernetičke obrane prvi je korak u borbi protiv stranih kibernetičkih operacija utjecaja razviti sposobnost njihova otkrivanja. Nijedno poduzeće ili organizacija ne mogu se nadati da će pojedinačno napraviti napredak koji je potreban. Nova, šira suradnja u tehnološkom sektoru bit će ključna, uz napredak u analiziranju i prijavljivanju kibernetičkih operacija utjecaja u čemu se uvelike oslanja na ulogu civilnog društva, uključujući akademske ustanove i neprofitne organizacije.
Kao kod kibernetičke obrane prvi je korak u borbi protiv stranih kibernetičkih operacija utjecaja razviti sposobnost njihova otkrivanja. Nijedno poduzeće ili organizacija ne mogu se nadati da će pojedinačno napraviti napredak koji je potreban. Nova, šira suradnja u tehnološkom sektoru bit će ključna, uz napredak u analiziranju i prijavljivanju kibernetičkih operacija utjecaja u čemu se uvelike oslanja na ulogu civilnog društva, uključujući akademske ustanove i neprofitne organizacije.
Obrana
Drugi strateški stup je poduprijeti demokratske obrane, dugotrajni prioritet kojem trebaju ulaganja i inovacije. Treba uzeti u obzir izazove koje je tehnologija stvorila za demokratska društva – posebice remećenja u novinarstvu i lokalnim vijestima – te prilike koje je tehnologija stvorila za učinkovitiju obranu demokratskih društava.
Drugi strateški stup je poduprijeti demokratske obrane, dugotrajni prioritet kojem trebaju ulaganja i inovacije. Treba uzeti u obzir izazove koje je tehnologija stvorila za demokratska društva – posebice remećenja u novinarstvu i lokalnim vijestima – te prilike koje je tehnologija stvorila za učinkovitiju obranu demokratskih društava.
To zahtijeva trajno ulaganje i inovacije koji moraju odražavati lokalne potrebe različitih zemalja i kontinenata. Ti problemi nisu jednostavni, zahtijevaju pristupe više dionika, što Microsoft i druga tehnološka poduzeća sve više podržavaju
Remećenje
Proteklih je godina Microsoftova jedinica za digitalne zločine (DCU) preradila taktike i razvila alate za remećenje računalnih prijetnji, od ucjenjivačkog softvera do botneta i napada nacionalnih država. Naučili smo puno ključnih lekcija, počevši od uloge aktivnog remećenja u borbi protiv širokog raspona računalnih napada.
Proteklih je godina Microsoftova jedinica za digitalne zločine (DCU) preradila taktike i razvila alate za remećenje računalnih prijetnji, od ucjenjivačkog softvera do botneta i napada nacionalnih država. Naučili smo puno ključnih lekcija, počevši od uloge aktivnog remećenja u borbi protiv širokog raspona računalnih napada.
Kako razmišljamo o borbi protiv kibernetičkih operacija utjecaja, remećenje može igrati još važniju ulogu, a najbolji pristup remećenju je da postanemo jasniji. Najučinkovitiji protuotrov široj obmani je transparentnost. Zato je Microsoft povećao sposobnost otkrivanja i remećenja državnih operacija utjecaja kupovinom poduzeća Miburo Solutions, vodećeg poduzeća za analizu računalnih prijetnji i istraživanje koje specijalizira u otkrivanju stranih kibernetičkih operacija utjecaja te odgovoru na njih. Microsoft je spojio ove analitičare s Microsoftovim analitičarima konteksta prijetnji te osnovao Centar za analizu digitalnih prijetnji (DTAC). DTAC analizira i izvještava o državnim sigurnosnim prijetnjama, uključujući računalne napade i operacije utjecaja, kombinirajući informacije i obavještavanje o prijetnjama s geopolitičkom analizom radi pružanja uvida i davanja informacija u vezi učinkovitog odgovora i zaštita.
Odvraćanje
Na kraju, ne možemo očekivati od država da promijene ponašanje ako ne postoji odgovornost za kršenje međunarodnih pravila. Jačanje takve odgovornosti jedinstveno je vladina odgovornost. Ipak sve više akcija na razini više dionika igra važnu ulogu u jačanju i širenju međunarodnih normi.
Na kraju, ne možemo očekivati od država da promijene ponašanje ako ne postoji odgovornost za kršenje međunarodnih pravila. Jačanje takve odgovornosti jedinstveno je vladina odgovornost. Ipak sve više akcija na razini više dionika igra važnu ulogu u jačanju i širenju međunarodnih normi.
Više od 30 mrežnih platformi, oglašivača i izdavača – uključujući Microsoft – prihvatilo je nedavno ažurirani Kodeks Europske komisije o praksama o suzbijanju dezinformacija i složilo u vezi jačanja posvećenosti u rješavanju ovog rastućeg izazova. Poput nedavnog Poziva iz Pariza, Poziv iz Christchurcha i Deklaracije o budućnosti interneta, multilateralna akcija i akcija na razini više sudionika mogu okupiti vlade i javnost među demokratskim nacijama. Vlade se zatim mogu nadograđivati na ove norme i zakone radi ostvarivanja odgovornosti koje svjetske demokracije trebaju i zaslužuju.
Preko brze radikalne transparentnosti demokratske vlade i društva mogu učinkovito odbijati kampanje utjecaja atribuiranjem izvora državnih napada, informiranjem javnosti i izgradnjom povjerenja u institucijama.
Izvor: Microsoftovo izvješće o digitalnoj zaštiti, studeni 2022.
- [1]
Deepfakes 2020: The Tipping Point, Johannes Tammekänd, John Thomas i Kristjan Peterson, listopad 2020. – https://go.microsoft.com/fwlink/?linkid=2263006
- [2]
Deep Fakes: A Looming Challenge for Privacy https://go.microsoft.com/fwlink/?linkid=2262673