Trace Id is missing
Přeskočit na hlavní obsah
Insider zabezpečení

Propaganda v digitálním věku: Jak operace kybernetického ovlivňování narušují důvěru

Sdílet
Izometrická ilustrace mobilního telefonu s ikonami zabezpečení.

Prozkoumejte svět operací kybernetického ovlivňování, ve kterém státní aktéři šíří propagandu, jejímž cílem je ohrozit důvěryhodné informace potřebné k rozvoji demokracie.

Operace vedené ze zahraničí s cílem ovlivňování dnes využívají nové metody a technologie, díky kterým jsou kampaně zaměřené na narušování důvěry účinnější.

Státní aktéři stále častěji využívají sofistikované operace ovlivňování k šíření propagandy a ovlivňování veřejného mínění na domácí i mezinárodní úrovni. Tyto kampaně narušují důvěru, zvyšují polarizaci společnosti a ohrožují demokratické procesy.

Zkušení aktéři hrozeb typu APM (Advanced Persistent Manipulator) využívají tradiční média společně s internetem a sociálními sítěmi k tomu, aby výrazně zvýšili rozsah a účinnost svých kampaní a jejich dopad na globální informační ekosystém.

Stále rozšířenější jsou syntetická média, a to díky šíření nástrojů, které snadno vytvářejí a šíří vysoce realistické „umělé“ obrazy, videa a zvuky. Technologie prokazování digitálního původu, která potvrzuje původ mediálních prostředků, je příslibem v boji proti zneužití.

Ochrana řešení proti operacím kybernetického ovlivňování vyžaduje holistický přístup. Microsoft při boji proti operacím kybernetického ovlivňování staví na své již vyspělé infrastruktuře analýzy kybernetických hrozeb. Naší strategií je rozpoznávat propagandistické kampaně zahraničních agresorů, narušovat je, bránit se proti nim a odrazovat je.

900% meziroční nárůst šíření deepfake obsahu od roku 20191

Operace kybernetického ovlivňování se s rychlým vývojem technologií stávají stále sofistikovanějšími. Můžeme vidět překrývání a rozšiřování nástrojů využívaných při tradičních kybernetických útocích a jak se tyto nástroje uplatňují při operacích kybernetického ovlivňování. Kromě toho jsme zaznamenali zvýšenou koordinaci a zesilování dopadu akcí mezi státními aktéry.

Autoritářské režimy po celém světě spolupracují na tom, aby informační ekosystém „znečišťovali“ pro svůj vzájemný prospěch. Státem provozovaná média vytvářejí vzájemným zesilováním dosahu ekosystém, v kterém negativní zpravodajství o demokraciích – nebo pozitivní zpravodajství o spojencích – produkované jedním státním médiem je posilováno dalšími médii.

K této výzvě se přidává i fakt, že technologické subjekty ze soukromého sektoru můžou tyto kampaně nevědomky umožňovat. Mezi tyto „pomáhající“ můžou patřit společnosti, které registrují internetové domény, hostují weby, propagují materiály na sociálních sítích a vyhledávacích webech, usměrňují provoz a pomáhají platit za tyto činnosti prostřednictvím digitální reklamy.

Organizace musí mít povědomí o nástrojích a metodách, které autoritářské režimy používají pro operace kybernetického ovlivňování, aby mohly rozpoznat a následně zabránit šíření kampaní.

Roste také potřeba pomáhat běžným uživatelům vytvářet si sofistikovanější schopnost identifikovat zahraniční operace ovlivňování a omezit zapojování se do jejich narativů nebo obsahu.

Ke zvýšení transparentnosti a odhalení a narušení těchto kampaní ovlivňování je potřeba zvýšená míra koordinace a sdílení informací mezi vládami, soukromým sektorem a občanskou společností.

  • Zahraniční operace kybernetického ovlivňování šíří propagandu – někdy včetně falešných narativů – ve veřejném prostoru na internetu a někdy i prostřednictvím skutečných událostí nebo provokací. Falešné narativy, které existují na internetu bez povšimnutí, můžou v následných odkazech působit věrohodněji.

    Příklad 1

    Na počátku pandemie zveřejnily nevýznamné konspirační weby napojené na ruská a íránská státní média rozhovor s profesorem práva, který naznačil, že COVID-19 je biologická zbraň vytvořená Spojenými státy.

     

    Příklad 2

    7. března Rusko předložilo v OSN zprávu o tom, že porodnice v ukrajinském Mariupolu byla vyklizena a je využívána jako vojenský prostor.

  • Prostřednictvím vládou podporovaných a ovlivňovaných médií a kanálů sociálních médií je zahájena koordinovaná kampaň s cílem šířit narativy.

    Příklad 1
    V únoru 2020 zveřejnila íránskou vládou sponzorovaná televize PRESSTV anglicky psanou reportáž o tomto rozhovoru a brzy se k němu začala vyjadřovat i ruská státní média a čínská vláda.

     

    Příklad 2
    9. března Rusko nemocnici bombardovalo. Když se zpráva o bombardování objevila, ruský zástupce v OSN na Twitteru napsal, že reportáž o bombardování je falešná zpráva, a citoval dřívější tvrzení Ruska o údajném využívání tohoto místa pro vojenské účely.
  • Nakonec pak státními aktéry kontrolovaná média a zprostředkovatelé posilují narativy uvnitř cílových skupin. Často dochází k tomu, že nevědomí „techničtí pomocníci“ rozšiřují dosah těchto narativů.

    Příklad 1
    Státní televize Russia Today (RT) také zveřejnila přinejmenším jeden příběh, který propagoval prohlášení íránských představitelů, podle kterých by COVID-19 mohl být „produktem biologického útoku USA zaměřeného na Írán a Čínu“, a na sociálních sítích zveřejnila příspěvek, který naznačoval to stejné.

     

    Příklad 2
     Rusko pak tento narativ dva týdny po útoku na nemocnici šířilo na webech kontrolovaných Ruskem. Zesilování dosahu těchto příběhů v online prostředí poskytuje Rusku možnost odvracet svou vinu na mezinárodní scéně a vyhýbat se odpovědnosti.

Syntetická média

Vstupujeme do zlaté éry mediální tvorby a manipulace pomocí umělé inteligence (AI). Analytici Microsoftu k tomu říkají, že k tomu přispívají dva klíčové trendy: rozšiřování snadno použitelných nástrojů a služeb pro umělé vytváření vysoce realistických syntetických obrázků, videí, zvuků a textů a možnost rychle šířit obsah optimalizovaný pro konkrétní cílové skupiny.

Oblast syntetických textů a médií se vyvíjí neuvěřitelně rychle a jsme velmi blízko bodu, kdy kdokoli bude moct vytvořit syntetické video, ve kterém bude kdokoli říkat nebo dělat cokoli.

Deepfake obsah: Syntetické textové a mediální techniky

Tyto techniky můžou být použity k pokusu o vydírání jednotlivce, společnosti nebo instituce nebo k umístění osob do nepříjemných míst či situací. Takové pokročilé techniky založené na umělé inteligenci (AI) se dnes v kampaních kybernetického ovlivňování zatím běžně nepoužívají, ale očekáváme, že tento problém bude narůstat s tím, jak budou tyto nástroje postupně jednodušší a dostupnější.

  • Nahrazení tváře ve videu jinou tváří
  • Použití videa k animaci statického snímku nebo jiného videa
  • Rodina technik pro generování fotorealistického obrazového materiálu
  • Vytváření bohatého obrazového materiálů z textových popisů

Využití informačních operací za účelem působení škod nebo šíření vlivu není novinkou. Avšak rychlost, s jakou se informace můžou šířit, a naše neschopnost rychle rozeznat fakta od fikce znamenají, že dopad a škody způsobené falešným obsahem a dalšími synteticky vytvořenými škodlivými médii můžou být mnohem větší.

Existuje několik kategorií škod, které bereme v úvahu: manipulace s trhem, platební podvody, vishing, vydávání se za někoho jiného, poškození značky, poškození pověsti a botnety. Mnoho z těchto kategorií má hojně uváděné příklady z reálného světa, což by mohlo narušit naši schopnost rozpoznat fakta od fikce.

Dlouhodobější a zákeřnější hrozbou je to pro naše porozumění tomu, co je pravda, pokud už nemůžeme věřit tomu, co vidíme a slyšíme. Z tohoto důvodu může být jakýkoli kompromitující obrázek, audiozáznam nebo video veřejné či soukromé osoby odmítnuto jako falešné – výsledek označovaný jako „lhářská dividenda“.2

Průmysl, vlády a akademická obec se snaží vyvinout lepší způsoby, jak rozpoznávat a zmírňovat syntetická média a obnovit důvěru. Je několik slibných cest, jak dál postupovat, ale i překážek, které je třeba zvažovat.

Strategie Microsoftu je zaměřena na pomoc zainteresovaným stranám v různých odvětvích při detekci a narušování propagandy, obraně proti ní a jejímu odrazování – zejména v souvislosti s kampaněmi vedenými zahraničními agresory.

Detekce
Stejně jako v případě kybernetické obrany je prvním krokem v boji proti zahraničním operacím kybernetického ovlivňování rozvíjení schopnosti tyto operace rozpoznávat. Žádná společnost nebo organizace nemůže doufat, že dosáhne potřebného pokroku sama. Zásadní význam bude mít nová, širší spolupráce napříč technologickým sektorem, přičemž pokrok v analýze a oznamování operací kybernetického ovlivňování bude do značné míry záviset na roli občanské společnosti, včetně akademických institucí a neziskových organizací.
Obrana
Druhým strategickým pilířem je posílení demokratické obrany, což je dlouhodobá priorita, která potřebuje investice a inovace. To by mělo brát v potaz výzvy, které vyplývají z technologického pokroku pro demokratické společnosti – zejména narušování žurnalistiky a místního zpravodajství – a příležitosti, které tento technologický pokrok vytváří pro účinnější obranu demokratických společností.

To vyžaduje neustálé investice a inovace, které musí odrážet místní potřeby různých zemí a kontinentů. Tyto problémy nejsou jednoduché a vyžadují přístup zahrnující více zainteresovaných stran, který Microsoft a další technologické společnosti stále více podporují.

Narušení
Oddělení DCU (Digital Crimes Unit) společnosti Microsoft v posledních letech zdokonalilo taktiku a vyvinulo nástroje pro narušování kybernetických hrozeb od ransomwaru až po botnety a útoky státních aktérů. Získali jsme mnoho důležitých zkušeností, počínaje rolí aktivního narušování v boji proti široké škále kybernetických útoků.

Když přemýšlíme o boji proti operacím kybernetického ovlivňování, jejich narušení může hrát ještě důležitější roli a nejlepší přístup k narušování se stává jasnějším. Nejúčinnějším obranou proti rozsáhlému oklamávání je transparentnost. Proto Microsoft zvýšil svou kapacitu pro rozpoznávání a narušování operací ovlivňování ze strany státních aktérů akvizicí společnosti Miburo Solutions, přední společnosti zabývající se analýzou a výzkumem kybernetických hrozeb, která se specializuje na rozpoznávání zahraniční operací ovlivňování a reakcemi na ně. Spojením těchto analytiků s analytiky kontextu hrozeb z Microsoftu vzniklo centrum DTAC (Digital Threat Analysis Center). Centrum DTAC analyzuje hrozby ze strany státních aktérů zahrnující kybernetické útoky a operace ovlivňování a podává o nich zprávy. Kombinuje přitom informace a analýzu hrozeb s geopolitickou analýzou, aby poskytovalo přehledy a informace pro účinné reakce a ochranu.

Odrazování
Závěrem je potřeba říci, že nemůžeme očekávat, že státy změní své chování, pokud nebude existovat odpovědnost za porušování mezinárodních pravidel. Vymáhání této odpovědnosti spadá výhradně pod pravomoci vlád. Přesto stále větší roli při posilování a rozšiřování mezinárodních norem hraje činnost více zúčastněných stran.

Více než 30 online platforem, inzerentů a vydavatelů, včetně společnosti Microsoft, podepsalo nedávno aktualizovaný Evropský kodex zásad boje proti dezinformacím, v němž se zavazují ke komplexnějšímu řešení tohoto narůstajícího problému. S ohlédnutím za nedávnou Pařížskou výzvou, Christchurchskou výzvou a Deklarací o budoucnosti internetu lze usoudit, že multilaterární a vícestranné akce mohou vládám a veřejnosti demokratických zemích pomoct najít společnou řeč. Vlády pak mohou na základě těchto norem a zákonů prosazovat odpovědnost, kterou světové demokracie potřebují a zaslouží si.

Díky rychlé radikální transparentnosti můžou demokratické vlády a společnosti účinně otupit kampaně ovlivňování tím, že budou odhalovat původce útoků v případě státních aktérů, budou informovat veřejnost a budovat důvěru v instituce.

Zdroj: Studie Microsoft Digital Defense Report, listopad 2022

Související články

Zvláštní studie: Ukrajina

Společnost Microsoft sdílí poznatky o kybernetických útocích na Ukrajinu a upozorňuje na podrobnosti útoků a souvislosti týkající se rozsahu a metod útočících státních aktérů z Ruska.
Další informace

Cyber Signals: 1. číslo

Novým bojištěm je identita. Získejte přehled o vývoji kybernetických hrozeb a o krocích, které je třeba podniknout k lepší ochraně vaší organizace.
Další informace

Obrana Ukrajiny: První lekce z kybernetické války

Nejnovější poznatky v rámci naší přetrvávající snahy o analýzu hrozeb ve válce mezi Ruskem a Ukrajinou spolu se závěry z prvních čtyř měsíců války posilují potřebu nových investic do technologie, dat a spolupráce s cílem podpořit vlády, firmy, nestátní neziskové organizace a univerzity.
Další informace