Propaganda in het digitale tijdperk: Hoe cyberbeïnvloedingsoperaties het vertrouwen schaden
De huidige buitenlandse beïnvloedingsoperaties maken gebruik van nieuwe methoden en technologieën, waardoor hun campagnes om het vertrouwen te schaden efficiënter en effectiever worden.
Natiestaten gebruiken steeds vaker geavanceerde beïnvloedingsoperaties om propaganda te verspreiden en de publieke opinie zowel binnenlands als internationaal te beïnvloeden. Deze campagnes schaden het vertrouwen, verhogen de polarisatie en bedreigen democratische processen.
Vaardige geavanceerde aanhoudende manipulatoren gebruiken meestal traditionele media in combinatie met het internet en sociale media om het bereik, de schaal en efficiëntie van hun campagnes enorm uit te breiden, maar ook voor grote impact in het wereldwijde ecosysteem van informatie.
Synthetische media wordt steeds vaker gebruikt vanwege de uitbreiding van hulpprogramma's die eenvoudig zeer realistische kunstmatige afbeeldingen, video's en audio kunnen maken en verspreiden. Digitale technologie die de herkomst van media-assets certificeert, kan worden misbruikt in de strijd.
Om oplossingen te beveiligen tegen cyberbeïnvloedingsoperaties is een holistische benadering vereist. Microsoft bouwt voort op de al volgroeide infrastructuur voor informatie over cyberbedreigingen om cyberbeïnvloedingsoperaties te bestrijden. Onze strategie is het detecteren, verstoren, voorkomen van en verdedigen tegen propagandacampagnes van buitenlandse agressors.
Jaarlijkse toename van 900% in de verspreiding van deepfakes sinds 20191
cyberbeïnvloedingsoperaties worden steeds geavanceerder nu de technologie snel verder ontwikkelt. We zien een overlapping en uitbreiding van de hulpprogramma's die worden gebruikt in traditionele cyberaanvallen en die worden toegepast in cyberbeïnvloedingsoperaties. Daarnaast hebben we een toegenomen coördinatie en versterking door natiestaten waargenomen.
Autoritaire regimes van over de hele wereld hebben samengewerkt om het ecosysteem van informatie te vervuilen in hun gemeenschappelijke voordeel. Door de staat beheerde mediakanalen maken een ecosysteem waarin negatieve verslaggeving over democratieën (of positieve verslaggeving over bondgenoten) wordt geproduceerd en die wordt overgenomen en daardoor versterkt door andere mediakanalen.
Voor een nog grotere uitdaging worden deze campagnes soms ongemerkt mogelijk gemaakt door entiteiten in de technologie in de private sector. Deze mogelijk makende entiteiten kunnen bedrijven zijn die internetdomeinen registreren, websites hosten, materiaal op sociale media en zoeksites promoten, verkeer kanaliseren en helpen betalen voor deze uitoefeningen via digitale advertenties.
Organisaties moeten zich bewust zijn van de hulpmiddelen en methoden die autoritaire regimes inzetten voor cyberbeïnvloedingsoperaties, zodat ze de verspreiding van campagnes kunnen detecteren en vervolgens voorkomen.
Er is ook een groeiende behoefte aan het helpen van klanten zodat ze beter buitenlandse beïnvloedingsoperaties kunnen identificeren en de betrokkenheid met hun verhaallijnen of inhoud kunnen beperken.
Meer coördinatie en informatiedeling tussen overheden, de private sector en de burgersamenleving is nodig voor hogere transparantie en om deze beïnvloedingscampagnes bloot te stellen en te verstoren.
- Buitenlandse cyberbeïnvloedingsoperaties introduceren propaganda in het publieke domein op het internet en soms via gebeurtenissen of provocaties in de echte wereld. Soms bevat de propaganda onjuiste verhaallijnen. Onjuiste verhaallijnen die ongemerkt beschikbaar zijn op het internet kunnen latere verwijzingen geloofwaardiger laten lijken.
Voorbeeld 1
In de beginperiode van de pandemie publiceerden complotwebsites die zijn gerelateerd aan Russische en Iraanse staatsmedia een interview met een hoogleraar in de rechtsgeleerdheid, deze suggereerde dat COVID-19 een door de Verenigde Staten gemaakt biowapen is.
Voorbeeld 2
Op 7 maart plaatste Rusland een verhaallijn via archivering met de Verenigde Naties (VN) dat een kraamkliniek in Marioepol, Oekraïne, was leeggemaakt en werd gebruikt als een militaire locatie.
- Een gecoördineerde campagne is gestart om verhaallijnen te verspreiden via door de overheid ondersteunde en beïnvloede mediakanalen en socialemediakanalen.
Voorbeeld 1
In februari 2020 publiceerde PRESSTV (een door de Iraanse overheid gesponsord kanaal) een Engelstalig artikel over het interview. Russische staatsmediakanalen en Chinese overheidsaccounts gaven binnen de kortste keren commentaar op het artikel.Voorbeeld 2
Op 9 maart bombardeerde Rusland het ziekenhuis. Na het nieuws van het bombardement tweette de Russische VN-vertegenwoordiger dat de verslaggeving van het bombardement 'nepnieuws' is, met een verwijzing naar Ruslands eerdere claims dat het ziekenhuis wordt gebruikt als een militaire locatie. - Tot slot versterken door natiestaat beheerde media en proxy's verhaallijnen binnen doelgerichte doelgroepen. Vaak vergroten technologische bedrijven ongemerkt het bereik van de verhaallijnen.
Voorbeeld 1
Russia Today (RT, een kanaal van de staat) publiceerde ook minstens één verhaal dat verklaringen van Iraanse functionarissen promootte. Deze verklaringen luidden dat COVID-19 een 'product is als biologische aanval van de Verenigde Staten op Iran en China'. Socialemediaposts werden gebruikt om dit verder te suggereren.Voorbeeld 2
Rusland verspreidde deze verhaallijn vervolgens breed in Rusland. Ze beheerden websites gedurende twee weken na de aanval op het ziekenhuis. De versterking van deze verhalen online geeft Rusland de mogelijkheid om de schuld af te wenden op het internationale podium en verantwoordelijkheid te vermijden.
Synthetische media
We betreden een gouden tijdperk voor het maken en manipuleren van media met AI. Microsoft-analisten merken op dat dit wordt aangestuurd door twee belangrijke trends: De toename van gebruiksvriendelijke hulpprogramma's en services voor het kunstmatig maken van zeer realistische synthetische afbeeldingen, video's, audio en teksten en de mogelijkheid om snel inhoud te verspreiden die is geoptimaliseerd voor specifieke doelgroepen.
Het veld van deze synthetische tekst en media ontwikkelt zich enorm snel. We staan op het punt waarop iedereen in staat is om een synthetische video te maken van wie dan ook die wat dan ook zegt of doet.
Deepfakes: Synthetische teksten en mediatechnieken
Deze technieken kunnen worden gebruikt om een individu, bedrijf of instantie te chanteren of om individuen te plaatsen op locaties of in situaties die beschamend zijn. Zulke geavanceerde AI-technieken worden nu nog niet breed gebruikt in cyberbeïnvloedingscampagnes, maar we verwachten dat het probleem gaat groeien als de hulpprogramma's eenvoudiger zijn te gebruiken en breder beschikbaar zijn.
- Een gezicht in een video vervangen
- Een video gebruiken om een stilstaande afbeelding of een andere video te animeren
- Een serie technieken voor het genereren van fotorealistische afbeeldingen
- Rijke afbeeldingen maken vanuit tekstbeschrijvingen
Het gebruik van informatieoperaties om schade aan te richten of om invloed te vergroten is niet nieuw. De snelheid waarmee informatie zich kan verspreiden en ons vermogen om snel feit van fictie te onderscheiden, betekenen echter dat de impact en schade die fakes en andere synthetisch gegenereerde kwaadaardige media veroorzaken veel groter kunnen zijn.
Er zijn verschillende categorieën van schade die we meetellen: marktmanipulatie, betalingsfraude, vishing, imitatie, merkschade, reputatieschade en botnets. Veel van deze categorieën hebben breed gemelde voorbeelden in de echte wereld en kunnen ons vermogen om feit van fictie te onderscheiden ondermijnen.
Een sluipende bedreiging op de lange termijn is ons begrip van wat waar is als we niet langer kunnen vertrouwen wat we zien en horen. Hierdoor kan elke compromitterende afbeelding, audio of video van een publiek of privaat figuur worden afgewezen als nep, een resultaat dat bekend staat als 'The Liar's Dividend' (het voordeel van de leugenaar).2
De branche, overheid en academici ondernemen pogingen om betere manieren te ontwikkelen om synthetische media te detecteren en te beperken, zodat het vertrouwen wordt hersteld. Er zijn verschillende belovende perspectieven, maar ook hindernissen die beschouwd moeten worden.
Het strategieframework van Microsoft is gericht op het helpen van belanghebbenden in meerdere sectoren om propaganda te detecteren, te verstoren, te voorkomen en ertegen te verdedigen, vooral campagnes van buitenlandse agressors.
Detecteer
Net als in cyberverdediging is de eerste stap in het bestrijden van buitenlandse cyberbeïnvloedingsoperaties het ontwikkelen van het vermogen om ze te detecteren. Er is geen enkel bedrijf en geen enkele organisatie die kan hopen dat ze individueel de benodigde voortgang maken. Nieuwe, bredere samenwerking in de technische sector is cruciaal, met voortgang in het analyseren en melden van cyberbeïnvloedingsoperaties die zeer afhankelijk is van de rol van de burgersamenleving, inclusief in academische instellingen en non-profitorganisaties.
Net als in cyberverdediging is de eerste stap in het bestrijden van buitenlandse cyberbeïnvloedingsoperaties het ontwikkelen van het vermogen om ze te detecteren. Er is geen enkel bedrijf en geen enkele organisatie die kan hopen dat ze individueel de benodigde voortgang maken. Nieuwe, bredere samenwerking in de technische sector is cruciaal, met voortgang in het analyseren en melden van cyberbeïnvloedingsoperaties die zeer afhankelijk is van de rol van de burgersamenleving, inclusief in academische instellingen en non-profitorganisaties.
Verdedig
De tweede strategische pijler is het ondersteunen van de democratische verdediging, een langdurige prioriteit die behoefte heeft aan investeringen en innovatie. Er moet rekening worden gehouden met de uitdagingen die de technologie heeft gemaakt voor democratische samenlevingen, vooral de verstoring van de journalistiek en lokaal nieuws, en de mogelijkheden die de technologie heeft gemaakt om democratische samenlevingen effectiever te verdedigen.
De tweede strategische pijler is het ondersteunen van de democratische verdediging, een langdurige prioriteit die behoefte heeft aan investeringen en innovatie. Er moet rekening worden gehouden met de uitdagingen die de technologie heeft gemaakt voor democratische samenlevingen, vooral de verstoring van de journalistiek en lokaal nieuws, en de mogelijkheden die de technologie heeft gemaakt om democratische samenlevingen effectiever te verdedigen.
Dit vereist aanhoudende investeringen en innovatie die de lokale behoeften van verschillende landen en continenten moet weerspiegelen. Deze problemen zijn niet eenvoudig. Ze vereisen benaderingen door meerdere belanghebbenden die door Microsoft en andere technologiebedrijven in toenemende mate worden ondersteund
Verstoor
In de afgelopen jaren heeft de Digital Crimes Unit (DCU) van Microsoft tactieken verfijnd en hulpprogramma's ontwikkeld om cyberbedreigingen (variërend van ransomware tot botnets en aanvallen door natiestaten) te verstoren. We hebben veel kritieke lessen geleerd, om te beginnen met de rol van actieve verstoring in het bestrijden van een brede reeks cyberaanvallen.
In de afgelopen jaren heeft de Digital Crimes Unit (DCU) van Microsoft tactieken verfijnd en hulpprogramma's ontwikkeld om cyberbedreigingen (variërend van ransomware tot botnets en aanvallen door natiestaten) te verstoren. We hebben veel kritieke lessen geleerd, om te beginnen met de rol van actieve verstoring in het bestrijden van een brede reeks cyberaanvallen.
Als we nadenken over het bestrijden van cyberbeïnvloedingsoperaties kan verstoring een nog belangrijkere rol spelen, en de beste benadering tot verstoring wordt duidelijker. Het meest effectieve tegengif voor brede misleiding is transparantie. Dat is waarom Microsoft het vermogen om beïnvloedingsoperaties van natiestaten te detecteren en te verstoren heeft vergroot door Miburo Solutions aan te kopen. Miburo Solutions is een toonaangevend bedrijf in cyberbedreigingsanalyse en -onderzoek en is gespecialiseerd in de detectie van en de reactie op buitenlandse cyberbeïnvloedingsoperaties. De combinatie van deze analisten met de bedreigingscontextanalisten van Microsoft vormen het Digital Threat Analysis Center (DTAC) van Microsoft. DTAC analyseert en meldt bedreigingen van natiestaten, inclusief cyberaanvallen en beïnvloedingsoperaties, door informatie en bedreigingsinformatie te combineren met geopolitieke analyses om inzichten te bieden en om te informeren over effectieve reacties en beveiligingen.
Voorkom
Tot slot kunnen we niet verwachten dat naties hun gedrag veranderen als ze niet verantwoordelijk worden gehouden voor het overtreden van internationale regels. Het afdwingen van een dergelijke verantwoordelijkheid is bij uitstek een taak van de overheid. Toch speelt de actie van meerdere belanghebbenden steeds vaker een belangrijke rol bij het versterken en uitbreiden van internationale normen.
Tot slot kunnen we niet verwachten dat naties hun gedrag veranderen als ze niet verantwoordelijk worden gehouden voor het overtreden van internationale regels. Het afdwingen van een dergelijke verantwoordelijkheid is bij uitstek een taak van de overheid. Toch speelt de actie van meerdere belanghebbenden steeds vaker een belangrijke rol bij het versterken en uitbreiden van internationale normen.
Meer dan 30 online platformen, adverteerders en uitgevers, waaronder Microsoft, hebben de onlangs bijgewerkte gedragscode van de Europese Commissie inzake desinformatie ondertekend en gaan daarmee akkoord met strengere toezeggingen om dit groeiende probleem aan te pakken. Net als de recente oproepen in Parijs, Christchurch en de Verklaring over de toekomst van het internet, kunnen multilaterale en actie door meerdere belanghebbenden de regeringen en het publiek van democratische landen samenbrengen. Regeringen kunnen dan voortbouwen op deze normen en wetten om de verantwoordingsplicht die de democratieën van de wereld nodig hebben en verdienen, te bevorderen.
Door middel van snelle radicale transparantie kunnen democratische overheden en samenlevingen beïnvloedingscampagnes effectief tegengaan door de bron van aanvallen van natiestaten te achterhalen, het publiek te informeren en vertrouwen in instanties op te bouwen.
Bron: Microsoft Digital Defense Report, november 2022
- [1]
Deepfakes 2020: The Tipping Point, Johannes Tammekänd, John Thomas en Kristjan Peterson, oktober 2020 - https://go.microsoft.com/fwlink/?linkid=2263006
- [2]
Deep Fakes: A Looming Challenge for Privacy https://go.microsoft.com/fwlink/?linkid=2262673