Propaganda a digitális korban: Hogyan rombolják a bizalmat a kiberbefolyásolási műveletek?
Napjaink külföldi befolyásolási műveletei új módszereket és technológiákat használnak, hogy hatékonyabban ássák alá a bizalmat.
A nemzetállamok egyre inkább kifinomult befolyásolási műveleteket alkalmaznak a propaganda terjesztésére és a közvélemény befolyásolására belföldön és nemzetközi szinten egyaránt. Ezek a kampányok aláássák a bizalmat, fokozzák a polarizációt és veszélyeztetik a demokratikus folyamatokat.
Az APM típusú (Advanced Persistent Manipulator, azaz fejlett folyamatos manipulációt végző) szereplők a hagyományos médiát az internettel és a közösségi médiával együtt használják arra, hogy kampányaik hatókörét, méretét és hatékonyságát, valamint a globális információs ökoszisztémára gyakorolt hatásukat jelentősen növeljék.
A szintetikus média egyre elterjedtebbé válik az olyan eszközök elterjedésének köszönhetően, amelyekkel könnyen létrehoznak és terjesztenek rendkívül valósághű mesterséges képeket, videókat és hangokat. A médiaeszközök eredetét igazoló digitális eredetigazolási technológia ígéretes lehet a visszaélések elleni küzdelemben.
A kiberbefolyásolási műveletek elleni védelemhez holisztikus megközelítésre van szükség. A Microsoft a már kiforrott intelligens kiberveszély-felderítési infrastruktúrájára alapozva veszi fel a harcot a kiberbefolyásolási műveletek ellen. Stratégiánk lényege a külföldi agresszorok propagandakampányainak felderítése, megzavarása, kivédése és visszaszorítása.
2019 óta évről évre 900%-kal nő a deepfake-hamisítványok terjedése1
Ahogyan a technológia fejlődik, a kiberbefolyásolási műveletek is egyre kifinomultabbá válnak. A kiberbefolyásolási műveletekben a hagyományos kibertámadásokban használt eszközök használatát is megfigyelhetjük, melyeket kiterjedtebb módon használnak. Emellett megfigyelhető a nemzetállamok közötti fokozott összehangoltság és egymás fellépéseinek felerősítése is.
Az autoriter rezsimek világszerte együttműködnek egymással annak érdekében, hogy az információs ökoszisztémát kölcsönös előnyükre beszennyezzék. Az államilag működtetett médiumok egymást erősítve olyan ökoszisztémát hoznak létre, amelyben az egyik állami médium által a demokráciákról szóló negatív – vagy a szövetségesekről szóló pozitív – tudósításokat a többi médium felerősíti.
A problémát súlyosbítja, hogy a magánszektorbeli technológiai entitások akaratlanul is teret adhatnak ezeknek a kampányoknak. Ilyen entitások közé tartozhatnak olyan vállalatok, amelyeknél internetes tartományokat lehet regisztrálni, weboldalakat üzemeltetni, anyagokat népszerűsíteni a közösségi médiában és a keresőoldalakon, forgalmat terelni, és digitális hirdetéseket lehet megjeleníteni, melyek segítenek finanszírozni a tevékenységeket.
A szervezeteknek tisztában kell lenniük az autoriter rezsimek által a kiberbefolyásolási műveletekhez használt eszközökkel és módszerekkel, hogy felismerhessék, majd megakadályozhassák a kampányok terjesztését.
Egyre nagyobb szükség van arra is, hogy segítsük a fogyasztókat abban, hogy kifinomultabb képességet fejlesszenek ki a külföldi befolyásolási műveletek azonosítására, és hogy korlátozzuk az ilyen műveletek által közvetített narratívák vagy tartalmak elérhetőségét.
Fokozott koordinációra és információcserére van szükség a kormányzat, a magánszektor és a civil társadalom között az átláthatóság növelése, valamint az ilyen befolyásolási kampányok leleplezése és megakadályozása érdekében.
- A külföldi kiberbefolyásolási műveletek – olykor hamis narratívákat is tartalmazó – propagandát juttatnak el a nyilvánossághoz az interneten, időnként a világ valós eseményeihez kapcsolódva vagy provokációk formájában. Az interneten észrevétlenül fellelhető hamis narratívák hitelesebbé tehetik a későbbi hivatkozásokat.
1. példa
A világjárvány elején az orosz és iráni állami médiához kapcsolódó összeesküvés-elméletekhez kötődő weboldalak egy interjút tettek közzé, amelyben egy jogászprofesszor azt állította, hogy a COVID-19 az Egyesült Államok által létrehozott biológiai fegyver.
2. példa
Március 7-én Oroszország prepozicionált egy narratívát azzal, hogy az Egyesült Nemzetek Szervezetéhez (ENSZ) egy olyan beadvánnyal fordult, mely szerint az ukrajnai Mariupolban kiürítettek egy szülészeti kórházat, és azt katonai helyszínként használják.
- Összehangolt kampányt indítanak, hogy a narratívákat a kormány által támogatott és befolyásolt médiumokon és a közösségi médiás csatornákon keresztül terjesszék.
1. példa
2020 februárjában az iráni kormány által támogatott PRESSTV angol nyelvű cikket közölt az interjúról, és az orosz állami médiumok és a kínai kormányzati közösségi médiás fiókok hamarosan kommentálni kezdték a cikket.2. példa
Március 9-én Oroszország lebombázta a kórházat. A bombázás hírére Oroszország ENSZ-képviselője a Twitteren azt írta, hogy a bombázásról szóló tudósítás „álhír”, és Oroszország korábbi állításaira hivatkozott, miszerint azt állítólag katonai objektumként használják. - Végül, a nemzetállamok által ellenőrzött média és a közvetítők a narratívákat a célközönségeken belül is felerősítik. Gyakran előfordul, hogy a technológiai eszközök akaratlanul is segítik a narratívák hatókörének bővítését.
1. példa
Az állami tulajdonban lévő Russia Today (RT) legalább egy olyan történetet is közzétett, amely iráni tisztviselők kijelentéseit terjesztette, miszerint a COVID-19 „az Irán és Kína ellen irányuló amerikai biológiai támadás” terméke lehet, és a közösségi médiában is közzétett egy erre utaló bejegyzést.2. példa
Ezt a narratívát Oroszország a kórház elleni támadást követően két héten keresztül széles körben terjesztette az orosz ellenőrzés alatt álló weboldalakon. Ezeknek a történeteknek az online felerősítése lehetővé teszi Oroszország számára, hogy a nemzetközi színtéren elhárítsa magáról a felelősséget, és elkerülje a felelősségre vonást.
Szintetikus média
Egy olyan korszakba lépünk, amely a mesterséges intelligenciával támogatott médiakészítés és médiamanipuláció aranykora lesz. A Microsoft elemzői szerint ennek hátterében két fő tendencia áll: a rendkívül valósághű szintetikus képek, videók, hangok és szövegek mesterséges létrehozására szolgáló, egyszerűen használható eszközök és szolgáltatások elterjedése, valamint az adott célközönségek számára optimalizált tartalmak gyors terjesztésének lehetősége.
A szintetikus szöveg és média fejlődése rendkívül gyors, és nagyon közel vagyunk ahhoz a ponthoz, amikor bárki képes lesz olyan szintetikus videót készíteni bárkiről, amelyben az illető bármilyen tetszőleges dolgot mond vagy csinál.
Deepfake-ek: A szintetikus szövegek és multimédiás anyagok technikája
Ezek a technikák felhasználhatók egy személy, vállalat vagy intézmény zsarolására vagy arra, hogy a személyeket kínos helyszíneken vagy helyzetekben tüntessék fel. Az ilyen fejlett AI-alapú technikákat ma még nem használják széles körben a kiberbefolyásolási kampányokban, de arra számítunk, hogy a probléma növekedni fog, amint az eszközök könnyebben használhatóvá és szélesebb körben elérhetővé válnak.
- Egy arc kicserélése egy videóban egy másikra
- Videó használata egy állókép vagy egy másik videó animálására
- Fotorealisztikus képek előállítására szolgáló technikák családja
- Gazdag képi világ létrehozása szöveges leírásokból
Az információt használó műveletek alkalmazása a károkozás vagy a befolyás növelésére nem újdonság. Az információ terjedési sebessége és az, hogy nem vagyunk képesek gyorsan megkülönböztetni a tényeket a fikcióktól, azt jelenti, hogy a hamisítványok és más, szintetikusan előállított rosszindulatú multimédiás anyagok hatása és kára sokkal nagyobb lehet.
A károknak több kategóriáját vesszük figyelembe: a piaci manipulációt, a fizetési csalást, a telefonos adathalászatot, a megszemélyesítést, a márkakárosítást, a jó hírnév csorbítását és a botneteket. Az említett kategóriák közül többnél széles körben jelentettek valós példákat, ami veszélyeztetheti azt a képességünket, hogy megkülönböztessük a tényeket a fikciótól.
Hosszabb távú és még hátborzongatóbb veszélyt jelent az igazságról alkotott képünkre nézve az, ha többé nem bízhatunk abban, amit látunk és hallunk. Emiatt egy közszereplőről vagy egy magánszemélyről készült bármilyen kompromittáló képet, hangfelvételt vagy videót hamisítványként lehet elvetni – ez pedig a „hazug ember nyeresége” néven ismert jelenség.2
Az ipar, a kormányzat és a tudományos élet egyaránt azon dolgozik, hogy jobb módszereket dolgozzanak ki a szintetikus média felismerésére és visszaszorítására, és ezzel a bizalom helyreállítására. Több ígéretes irányt látunk, de vannak olyan akadályok is, amelyek megfontolásra intenek minket.
A Microsoft stratégiai keretrendszerének célja, hogy segítse az érdekelt feleket a különböző ágazatokban a propaganda – különösen a külföldi agresszorok által folytatott kampányok – felderítésében, megzavarásában, kivédésében és elhárításában.
Ahogyan a kibervédelem esetében is, a külföldi kiberbefolyásolási műveletekkel szembeni fellépésnél is a felderítéshez szükséges képesség fejlesztése az első lépés. Egyetlen vállalat vagy szervezet sem remélheti, hogy önállóan lesz képes elérni a szükséges előrelépést. Meghatározó jelentőségű lesz a technológiai ágazaton belüli egy új, szélesebb körű együttműködés, a kiberbefolyásolási műveletek elemzése és jelentése terén elért előrehaladás pedig jelentősen függ majd a civil társadalom szerepétől, beleértve a tudományos intézményeket és a nonprofit szervezeteket is.
A stratégia második pillére a demokrácia védelmének megerősítése, amely egy régóta fennálló olyan prioritás, ahol beruházásra és innovációra van szükség. Ennek a pillérnek tekintetbe kell vennie azokat a kihívásokat, amelyeket a technológia a demokratikus társadalmak számára teremtett – különösen az újságírás és a helyi hírek megzavarását –, de azokat a lehetőségeket is, amelyekkel a technológia a demokratikus társadalmak hatékonyabb védelmét szolgálhatja.
Ehhez folyamatos beruházásokra és innovációra van szükség, amelyeknek meg kell felelniük a különböző országok és kontinensek helyi igényeinek. Ezeket a problémákat nem lesz könnyű megoldani, és sokszereplős megközelítésre van szükség, amelyet a Microsoft és más technológiai vállalatok egyre inkább támogatnak
Az utóbbi években a Microsoft digitális bűncselekmények elleni részlege (DCU) finomította a taktikáját, és olyan eszközöket fejlesztett ki, amelyekkel a kiberfenyegetéseket a zsarolóprogramoktól kezdve a botneteken át a nemzetállami támadásokig meg lehet zavarni. Sok fontos tanulságot levontunk, kezdve az aktív megzavarás szerepével egészen a kibertámadások széles körének elhárításáig.
A kiberbefolyásolási műveletekkel szembeni fellépés kapcsán elmondható, hogy a megzavarás egyre fontosabb szerepet kaphat, és egyre világosabbá válik, hogy mi a megzavarás legjobb megközelítése. A kiterjedt megtévesztés leghatékonyabb ellenszere az átláthatóság. A Microsoft éppen ezért növelte a nemzetállamok befolyásolási műveleteinek felderítésére és megzavarására szolgáló kapacitását a vezető kiberfenyegetés-elemző és -kutató vállalat, a Miburo Solutions felvásárlásával, amely a külföldi kiberbefolyásolási műveletek felderítésére és az azokra való válaszadásra specializálódott. Ezeket az elemzőket a Microsoft fenyegetésekkel foglalkozó elemzőivel egyesítve a Microsoft létrehozta a Digitális Fenyegetéselemző Központot (DTAC). A DTAC elemzi a kibertámadásokat és a befolyásolási műveleteket is magában foglaló nemzetállami fenyegetéseket, ezekről jelentéseket készít, az információkat és a fenyegetésekkel kapcsolatos hírszerzési adatokat geopolitikai elemzésekkel kombinálja, hogy betekintést nyújtson, és hatékony válaszlépéseket és védekezést tegyen lehetővé.
Zárásképpen elmondhatjuk, hogy amennyiben az egyes országokat nem vonják felelősségre a nemzetközi szabályok megsértéséért, akkor nem várhatjuk el tőlük, hogy megváltoztassák hozzáállásukat és gyakorlatukat. Kizárólag kormányzati feladat ezt az elszámoltathatóságot és felelősségvállalást kikényszeríteni. Ennek dacára azonban a nemzetközi normák megerősítésében és kiterjesztésében egyre inkább fontos szerepet játszik, ha minél többen lépnek be a képbe.
Több mint 30 online platform, hirdető és kiadó, köztük a Microsoft is aláírta az Európai Bizottság által nemrégiben frissített, a dezinformáció kezelésére vonatkozó gyakorlati kódexet, és elkötelezte magát, hogy az erősödő kihívásokra nagyobb fokú elkötelezettséggel válaszolnak. A különféle kezdeményezések, mint például a közelmúltban kiadott párizsi felhívás, a christchurchi felhívás és az internet jövőjéről szóló nyilatkozat összehozhatják az érintett feleket, ahogyan elősegíthetik a kormányok és a demokratikus nemzetek nyilvánosságának együttműködését. A kormányok ezen iránymutatások és törvények alapján elősegíthetik a demokratikus országok által elvárt elszámoltathatóság térnyerését.
A demokratikus kormányok és társadalmak gyors, radikális átláthatóságot biztosítva hatékonyan ellensúlyozhatják a befolyásoló kampányokat azáltal, hogy azonosítják a nemzetközi támadások forrását, tájékoztatják a közvéleményt, és megerősítik az intézményekbe vetett bizalmat.
Forrás: Microsoft Digitális védelmi jelentés, 2022. november
- [1]
Deepfake-ek 2020: The Tipping Point, Johannes Tammekänd, John Thomas és Kristjan Peterson, 2020. október - https://go.microsoft.com/fwlink/?linkid=2263006
- [2]
Deep Fakes: A Looming Challenge for Privacy https://go.microsoft.com/fwlink/?linkid=2262673