Propaganda v digitalni dobi: Kako postopki kibernetskega vpliva slabijo zaupanje
Današnji postopki tujega vpliva uporabljajo nove načine in tehnologije, s čimer so njihove kampanje namenjene učinkovitejšemu in uspešnejšemu uničevanju zaupanja.
Države vse pogosteje uporabljajo prefinjene operacije vplivanja za širjenje propagande in vplivanje na javno mnenje doma in na mednarodni ravni. Te kampanje spodkopavajo zaupanje, povečujejo polarizacijo in ogrožajo demokratične procese.
Spretni akterji naprednih dolgotrajnih manipulatorjev uporabljajo tradicionalne medije skupaj z internetom in družbenimi mediji, da bi močno povečali obseg, obseg in učinkovitost svojih kampanj ter njihov vpliv na globalni informacijski ekosistem.
Sintetični mediji postajajo vse bolj razširjeni zaradi širjenja orodij za enostavno ustvarjanje in razširjanje zelo realističnih umetnih slik, videoposnetkov in zvoka. V boju proti zlorabam obeta tehnologija za preverjanje digitalne pristnosti virov.
Potreben je celosten pristop k zaščiti rešitev pred kibernetskimi vplivi. Microsoft v boju proti kibernetskemu vplivu gradi na svoji že razviti infrastrukturi za obveščanje o kibernetskih grožnjah. Naša strategija je zaznavanje, onemogočanje, obramba in odvračanje propagandnih kampanj tujih agresorjev.
900-odstotno povečanje širjenja globokih ponaredkov od leta 2019 na letni ravni1
Operacije kibernetskega vplivanja postajajo vse bolj izpopolnjene, saj se tehnologija pospešeno razvija. Opažamo, da se orodja, ki se uporabljajo pri tradicionalnih kibernetskih napadih, prekrivajo in širijo na operacije kibernetskega vplivanja. Poleg tega opažamo povečano usklajevanje in krepitev sodelovanja med državami.
Avtoritarni režimi po vsem svetu sodelujejo, da bi informacijski ekosistem onesnažili v svojo korist. Državni mediji ustvarjajo ekosistem, v katerem negativno poročanje o demokracijah ali pozitivno poročanje o zaveznicah, ki ga objavijo eni državni mediji, okrepijo drugi.
Poleg tega lahko tehnološki subjekti iz zasebnega sektorja nevede omogočijo te kampanje, kar je še dodaten izziv. Med izvajalci so lahko podjetja, ki registrirajo spletne domene, gostijo spletna mesta, promovirajo gradivo v družabnih medijih in iskalnikih, usmerjajo promet in pomagajo plačati te dejavnosti z digitalnim oglaševanjem.
Organizacije se morajo zavedati orodij in metod, ki jih avtoritarni režimi uporabljajo za operacije kibernetskega vplivanja, da lahko odkrijejo in nato preprečijo širjenje kampanj.
Prav tako je vse bolj potrebno pomagati potrošnikom, da razvijejo bolj izpopolnjeno sposobnost prepoznavanja tujih vplivnih operacij in omejijo sodelovanje z njihovimi pripovedmi ali vsebinami.
Da bi povečali preglednost ter razkrili in onemogočili te kampanje vplivanja, je potrebno večje usklajevanje in izmenjava informacij med vlado, zasebnim sektorjem in civilno družbo.
- Tuje operacije kibernetskega vplivanja širijo propagando – včasih tudi lažne zgodbe – v javni prostor v spletu, včasih pa tudi prek dogodkov ali provokacij v resničnem svetu. Zaradi lažnih informacij, ki neopazno krožijo v spletu, so lahko poznejše navedbe videti bolj verodostojne.
Primer 1
Na začetku pandemije so spletne strani za pripisovanje epidemije državnim zarotam, povezane z ruskimi in iranskimi državnimi mediji, objavile intervju s profesorjem prava, ki je menil, da je COVID-19 biološko orožje, ki so ga ustvarile Združene države.
Primer 2
Rusija je 7. marca prek prijave Združenim narodom (ZN) vnaprej sporočila, da je bila porodnišnica v ukrajinskem Mariupolu izpraznjena in da se uporablja kot vojaški objekt.
- Začne se usklajena kampanja za širjenje informacij prek medijev, ki jih podpira vlada in so pod njenim vplivom, ter kanalov družbenih medijev.
Primer 1
Februarja 2020 je iranska vlada sponzorirala televizijo PRESSTV, ki je v angleškem jeziku objavila prispevek o intervjuju, ruski državni mediji in kitajska vlada pa so ga kmalu začeli komentirati.Primer 2
9. marca je Rusija bombardirala bolnišnico. Ob novici o bombardiranju je ruski predstavnik ZN na Twitterju zapisal, da je poročanje o bombardiranju »lažna novica«, in navedel prejšnje trditve Rusije o domnevni vojaški uporabi območja. - Nazadnje, nacionalni mediji, ki jih nadzoruje država, in njihovi pooblaščenci širijo informacije med ciljnim občinstvom. Pogosto se zgodi, da nezavedni uporabniki tehnologij še razširijo domet informacij.
Primer 1
Russia Today (RT), ki je v državni lasti, je objavila tudi najmanj eno zgodbo, v kateri je promovirala izjave iranskih uradnikov, da je COVID-19 morda »izdelek 'biološkega napada ZDA', usmerjenega proti Iranu in Kitajski«, ter objavila objavo v družbenih medijih, v kateri je to trdila.Primer 2
Dva tedna po napadu na bolnišnico je Rusija to zgodbo na široko širila na spletnih straneh pod ruskim nadzorom. S širjenjem teh zgodb na spletu lahko Rusija odvrne krivdo na mednarodnem prizorišču in se izogne odgovornosti.
Sintetični mediji
Vstopamo v zlato obdobje ustvarjanja in manipulacije medijev s pomočjo umetne inteligence. Microsoftovi analitiki ugotavljajo, da je to posledica dveh ključnih trendov: širjenja enostavnih orodij in storitev za umetno ustvarjanje zelo realističnih sintetičnih slik, videoposnetkov, zvoka in besedila ter možnosti hitrega razširjanja vsebine, optimizirane za določeno občinstvo.
Področje sintetičnih besedil in medijev napreduje izjemno hitro in zelo blizu smo točki, ko bo lahko vsakdo ustvaril sintetični videoposnetek kogar koli, ki bo govoril ali počel kar koli.
Deepfakes: Sintetična besedila in medijske tehnike
Te tehnike se lahko uporabijo za poskus izsiljevanja posameznika, podjetja ali institucije ali za postavljanje posameznikov na neprijetne lokacije ali v neprijetne situacije. Takšne napredne tehnike, ki temeljijo na umetni inteligenci, se danes še ne uporabljajo pogosto v kampanjah kibernetskega vplivanja, vendar pričakujemo, da se bo problem povečal, ko bodo orodja postala enostavnejša za uporabo in širše dostopna.
- Zamenjava obraza v videoposnetku z drugim
- Uporaba videoposnetka za animacijo mirujoče slike ali drugega videoposnetka
- Družina tehnik za ustvarjanje fotorealističnih slik
- Ustvarjanje bogatih slik iz besedilnih opisov
Uporaba informacijskih operacij za povzročanje škode ali širjenje vpliva ni nova. Zaradi hitrosti širjenja informacij in naše nezmožnosti hitrega ločevanja dejstev od izmišljotin pa sta lahko vpliv in škoda, ki ju povzročijo ponaredki in drugi sintetično ustvarjeni zlonamerni mediji, veliko večja.
Obravnavamo več kategorij škode: tržne manipulacije, goljufije pri plačilih, izsiljevanje, izdajanje za drugo osebo, škodovanje blagovni znamki, škodovanje ugledu in botneti. O mnogih od teh kategorij se pogosto poroča v resničnem svetu, kar lahko ogrozi našo sposobnost ločevanja dejstev od izmišljotin.
To je dolgoročnejša in zahrbtna grožnja za naše razumevanje, kaj je res, če ne moremo več zaupati temu, kar vidimo in slišimo. Zaradi tega se lahko vsaka kompromitirajoča slika, zvočni ali video posnetek javne ali zasebne osebe zavrne kot ponaredek – rezultat je znan kot »dividenda za lažnivca«.2
V industriji, vladi in akademski sferi potekajo prizadevanja za razvoj boljših načinov za odkrivanje in ublažitev sintetičnih medijev ter povrnitev zaupanja. Obstaja več obetavnih poti naprej in ovir, ki jih je treba upoštevati.
Microsoftov strateški okvir je namenjen pomoči medsektorskim zainteresiranim stranem pri odkrivanju, onemogočanju, obrambi in odvračanju od propagande, zlasti kampanj tujih agresorjev.
Zaznavanje
Tako kot pri kibernetski obrambi je prvi korak v boju proti tujim operacijam kibernetskega vplivanja razvoj zmogljivosti za njihovo odkrivanje. Nobeno posamezno podjetje ali organizacija ne more upati, da bo posamezno doseglo potreben napredek. Ključno bo novo, širše sodelovanje v tehnološkem sektorju, napredek pri analizi in poročanju o operacijah kibernetskega vpliva pa bo v veliki meri odvisen od vloge civilne družbe, vključno z akademskimi ustanovami in neprofitnimi organizacijami.
Tako kot pri kibernetski obrambi je prvi korak v boju proti tujim operacijam kibernetskega vplivanja razvoj zmogljivosti za njihovo odkrivanje. Nobeno posamezno podjetje ali organizacija ne more upati, da bo posamezno doseglo potreben napredek. Ključno bo novo, širše sodelovanje v tehnološkem sektorju, napredek pri analizi in poročanju o operacijah kibernetskega vpliva pa bo v veliki meri odvisen od vloge civilne družbe, vključno z akademskimi ustanovami in neprofitnimi organizacijami.
Obramba
Drugi strateški steber je krepitev demokratične obrambe, ki je dolgoletna prednostna naloga in potrebuje naložbe in inovacije. Upoštevati mora izzive, ki jih je tehnologija ustvarila za demokratične družbe – zlasti motnje v novinarstvu in lokalnih novicah – in priložnosti, ki jih je ustvarila za učinkovitejšo obrambo demokratičnih družb.
Drugi strateški steber je krepitev demokratične obrambe, ki je dolgoletna prednostna naloga in potrebuje naložbe in inovacije. Upoštevati mora izzive, ki jih je tehnologija ustvarila za demokratične družbe – zlasti motnje v novinarstvu in lokalnih novicah – in priložnosti, ki jih je ustvarila za učinkovitejšo obrambo demokratičnih družb.
Za to so potrebne stalne naložbe in inovacije, ki morajo odražati lokalne potrebe različnih držav in celin. Ta vprašanja niso enostavna in zahtevajo večstranske pristope, ki jih Microsoft in druga tehnološka podjetja vse bolj podpirajo.
Motnja
V zadnjih letih je Microsoftova enota za digitalni kriminal (DCU) izpopolnila taktike in razvila orodja za preprečevanje kibernetskih groženj, od izsiljevalske programske opreme do botnetov in državno podprtih napadov. Naučili smo se veliko pomembnih stvari. Kot prvo smo spoznali vlogo aktivne prekinitve v boju proti številnim kibernetskim napadom.
V zadnjih letih je Microsoftova enota za digitalni kriminal (DCU) izpopolnila taktike in razvila orodja za preprečevanje kibernetskih groženj, od izsiljevalske programske opreme do botnetov in državno podprtih napadov. Naučili smo se veliko pomembnih stvari. Kot prvo smo spoznali vlogo aktivne prekinitve v boju proti številnim kibernetskim napadom.
Ko razmišljamo o boju proti operacijam kibernetskega vpliva, imajo lahko motnje še pomembnejšo vlogo, najboljši pristop k motnjam pa postaja vse bolj jasen. Najbolj učinkovita protiutež za obsežno zavajanje je preglednost. Zato je Microsoft z nakupom podjetja Miburo Solutions, vodilnega podjetja za analizo kibernetskih groženj in raziskave, specializiranega za odkrivanje in odzivanje na tuje operacije kibernetskega vplivanja, povečal svoje zmogljivosti za odkrivanje in onemogočanje operacij vplivanja nacionalnih držav. Microsoft je te analitike združil z Microsoftovimi analitiki konteksta groženj in ustanovil Center za analizo digitalnih groženj (DTAC). DTAC analizira grožnje nacionalnih držav, vključno s kibernetskimi napadi in operacijami vplivanja, ter o njih poroča, pri čemer združuje informacije in podatke o grožnjah z geopolitičnimi analizami, da bi zagotovil vpogled ter učinkovito odzivanje in zaščito.
Odvračanje
Nenazadnje ne moremo pričakovati, da bodo države spremenile svoje vedenje, če ne bodo odgovarjale za kršenje mednarodnih pravil. Uveljavljanje takšne odgovornosti je izključno vladna odgovornost. Vendar ima delovanje več zainteresiranih strani vse bolj pomembno vlogo pri krepitvi in razširitvi mednarodnih norm.
Nenazadnje ne moremo pričakovati, da bodo države spremenile svoje vedenje, če ne bodo odgovarjale za kršenje mednarodnih pravil. Uveljavljanje takšne odgovornosti je izključno vladna odgovornost. Vendar ima delovanje več zainteresiranih strani vse bolj pomembno vlogo pri krepitvi in razširitvi mednarodnih norm.
Več kot 30 spletnih platform, oglaševalcev in založnikov – med njimi tudi Microsoft – je podpisalo nedavno posodobljeni kodeks ravnanja Evropske komisije na področju dezinformacij, s čimer so se strinjali z okrepljenimi zavezami za reševanje tega vse večjega izziva. Podobno kot nedavni iniciativi Paris Call in Christchurch Call ter deklaracija o prihodnosti interneta lahko tudi večstranski ukrepi in ukrepi več zainteresiranih strani združijo vlade in javnost demokratičnih držav. Vlade lahko na podlagi teh norm in zakonov spodbujajo odgovornost, ki jo svetovne demokracije potrebujejo in si jo zaslužijo.
S hitro radikalno preglednostjo lahko demokratične vlade in družbe učinkovito preprečijo kampanje vplivanja, tako da določijo vir napadov nacionalnih držav, obveščajo javnost in krepijo zaupanje v institucije.
Vir: Poročilo o digitalni obrambi Microsoft, november 2022
- [1]
Deepfakes 2020: The Tipping Point, Johannes Tammekänd, John Thomas in Kristjan Peterson, oktober 2020 – https://go.microsoft.com/fwlink/?linkid=2263006
- [2]
Deep Fakes: A Looming Challenge for Privacy https://go.microsoft.com/fwlink/?linkid=2262673