Propaganda im digitalen Zeitalter: Wie Einflussnahmeoperationen im Cyberspace das Vertrauen untergraben
Ausländische Akteure bedienen sich heute zur Einflussnahme neuer Methoden und Technologien, um Desinformationskampagnen noch wirksamer zu machen.
Staaten führen immer raffiniertere Einflussnahmeoperationen durch, um Propaganda zu verbreiten und die öffentliche Meinung im In- und Ausland zu manipulieren. Diese Kampagnen untergraben das Vertrauen, verstärken Polarisierungen und gefährden demokratische Prozesse.
Geschickte Advanced Persistent Manipulator-Akteure nutzen traditionelle Medien sowie das Internet und soziale Medien, um den Umfang, die Reichweite und die Wirksamkeit ihrer Kampagnen sowie deren Auswirkungen auf das globale Informationsökosystem erheblich zu steigern.
Immer häufiger werden sogenannte synthetische Medien eingesetzt, da immer mehr Werkzeuge zur Verfügung stehen, mit denen sich auf einfache Weise sehr realistisch wirkende künstliche Bilder, Videos und Audiodaten erstellen und verbreiten lassen. Technologien zur Zertifizierung der Herkunft von digitalen Medieninhalten versprechen, dem Missbrauch entgegenzuwirken.
Der Schutz vor Einflussnahmeoperationen im Cyberspace erfordert einen ganzheitlichen Lösungsansatz. Microsoft setzt seine hochentwickelte Cyber-Threat-Intelligence-Infrastruktur zur Bekämpfung von Einflussnahmeoperationen im Cyberspace ein. Unsere Strategie besteht darin, Propagandakampagnen ausländischer Angreifer aufzudecken, zu stoppen, abzuwehren und davon abzuschrecken.
Jährliche Zunahme der Verbreitung von Deepfakes um 900 % seit 20191
Durch die rasante technologische Entwicklung werden Einflussnahmeoperationen im Cyberspace immer ausgefeilter. Wir stellen eine Überschneidung und Ausweitung der bei herkömmlichen Cyberangriffen verwendeten Werkzeuge auf Einflussnahmeoperationen im Cyberspace fest. Darüber hinaus haben wir eine zunehmende Koordinierung und Verstärkung von Kampagnen zwischen Nationalstaaten beobachtet.
Autoritäre Regime auf der ganzen Welt arbeiten zusammen, um das Informationsökosystem zu ihrem beiderseitigen Vorteil zu kontaminieren. Durch die gegenseitige Verstärkung schaffen staatlich kontrollierte Medien ein Ökosystem, in dem die negative Berichterstattung über Demokratien – oder die positive Berichterstattung über Verbündete – eines staatlichen Mediums durch andere Medien verstärkt und deren Reichweite erhöht wird.
Erschwerend kommt hinzu, dass privatwirtschaftliche Technologieunternehmen solche Kampagnen unabsichtlich begünstigen können. Dazu können Unternehmen gehören, die Internetdomänen registrieren, Websites hosten, Material in sozialen Medien und auf Suchseiten bewerben, Traffic kanalisieren und die Bezahlung dieser Aktivitäten durch digitale Werbung ermöglichen.
Organisationen müssen sich der Instrumente und Methoden bewusst sein, die autoritäre Regime zur Einflussnahme im Cyberspace einsetzen, um Kampagnen erkennen und anschließend deren Ausbreitung verhindern zu können.
Es besteht auch ein wachsender Bedarf, Verbraucher dabei zu unterstützen, ihre Fähigkeit zu verbessern, ausländische Aktionen zur Einflussnahme zu erkennen und sich nicht auf deren Narrative und Inhalte einzulassen.
Um die Transparenz zu erhöhen und solche Einflusskampagnen aufzudecken und zu unterbinden, bedarf es einer verstärkten Koordination und eines intensiveren Informationsaustauschs zwischen Behörden, Privatsektor und Zivilgesellschaft.
- Ausländische Cyber-Einflussnahmeoperationen verbreiten Propaganda – manchmal auch Falschinformationen – im öffentlichen Bereich des Internets und zuweilen auch im Rahmen realer Veranstaltungen oder Provokationen. Unbemerkt im Internet verbreitete Falschmeldungen können spätere Verweise glaubwürdiger erscheinen lassen.
Beispiel 1
Zu Beginn der Pandemie veröffentlichten periphere Verschwörungswebsites mit Verbindungen zu russischen und iranischen Staatsmedien ein Interview mit einem Juraprofessor, der behauptete, COVID-19 sei eine von den USA entwickelte Biowaffe.
Beispiel 2
Am 7. März schuf Russland mit einer Eingabe an die Vereinten Nationen (VN) das vorbereitende Narrativ, eine Geburtsklinik in der ukrainischen Stadt Mariupol sei geräumt und zu einem Militärstützpunkt umfunktioniert worden.
- Es wird eine koordinierte Kampagne gestartet, um über von der Regierung unterstützte und beeinflusste Medien und Social-Media-Kanäle bestimmte Narrative zu verbreiten.
Beispiel 1
Im Februar 2020 veröffentlichte PRESSTV, ein von der iranischen Regierung gesponserter Sender, einen englischsprachigen Bericht über besagtes Interview, und bald darauf wurde der Beitrag auch von russischen Staatsmedien und in Berichten der chinesischen Regierung kommentiert.Beispiel 2
Am 9. März bombardierte Russland die Klinik. Nach Bekanntwerden der Bombardierung twitterte der russische UN-Vertreter, die Berichterstattung über die Bombardierung sei "Fake News" und verwies auf frühere Aussagen Russlands über die angebliche Nutzung des Geländes als Militärstützpunkt. - Schließlich verbreiten staatlich kontrollierte Medien und ihre Verbündeten die Darstellungen verstärkt innerhalb bestimmter Zielgruppen. Oft wird die Reichweite dieser Narrative durch ahnungslose technische Ermöglicher erhöht.
Beispiel 1
Russia Today (RT) – ein staatlicher Fernsehsender – veröffentlichte ebenfalls mindestens einen Bericht, in dem Aussagen iranischer Beamter wiedergegeben wurden, wonach COVID-19 "das Ergebnis eines 'biologischen Angriffs der USA' auf den Iran und China" sein könnte, und veröffentlichte entsprechende Beiträge in sozialen Medien.Beispiel 2
In den zwei Wochen nach dem Angriff auf das Krankenhaus verbreitete Russland diese Geschichte dann in großem Umfang auf von Russland kontrollierten Websites. Die Verbreitung dieser Geschichten im Internet ermöglichte es Russland, die Schuld von sich zu weisen und sich auf der internationalen Bühne der Verantwortung zu entziehen.
Synthetische Medien
Wir stehen am Beginn eines goldenen Zeitalters der KI-gestützten Medienproduktion und -manipulation. Die Analysten von Microsoft führen dies auf zwei Schlüsseltrends zurück: die Verbreitung benutzerfreundlicher Tools und Dienste zur künstlichen Generierung extrem realistischer synthetischer Bilder, Videos, Audioinhalte und Texte sowie die Möglichkeit, zielgruppenspezifische Inhalte schnell zu verbreiten.
Der Bereich der synthetischen Text- und Mediengenerierung entwickelt sich unglaublich schnell, und bald wird jeder in der Lage sein, ein synthetisches Video zu erstellen, in dem jede beliebige Person jede erdenkliche Aussage macht oder jede erdenkliche Handlung ausführt.
Deepfakes: Techniken zur Generierung synthetischer Texte und Medieninhalte
Diese Techniken können eingesetzt werden, um eine Person, ein Unternehmen oder eine Institution zu erpressen oder um Personen an peinlichen Orten oder in peinlichen Situationen darzustellen. Solche hoch entwickelten, KI-gestützten Techniken werden heute noch nicht in großem Umfang zur Einflussnahme im Cyberspace eingesetzt, aber wir gehen davon aus, dass das Problem in dem Maße zunehmen wird, in dem die Werkzeuge einfacher zu bedienen und allgemein verfügbar werden.
- Ein Gesicht in einem Video wird durch ein anderes ersetzt.
- Ein Video dient zur Animation eines Bildes oder eines anderen Videos.
- Verschiedene Techniken zur Generierung von fotorealistischem Bildmaterial
- Generierung von vielfältigem Bildmaterial auf der Grundlage von Textbeschreibungen
Es ist nichts Neues, dass Informationsoperationen genutzt werden, um Schaden anzurichten oder den eigenen Einflussbereich auszuweiten. Aufgrund der Geschwindigkeit, mit der sich Informationen verbreiten können, und unserer Unfähigkeit, schnell zwischen Fakten und Fiktion zu unterscheiden, können die Auswirkungen und Schäden, die durch Fälschungen und andere synthetische bösartige Medien verursacht werden, heute jedoch weitaus größer sein.
Wir betrachten mehrere Kategorien von Schäden: Marktmanipulation, Zahlungsbetrug, Vishing, Identitätsdiebstahl, Markenschädigung, Rufschädigung und Botnets. Zu mehreren dieser Kategorien gibt es bekannte Beispiele aus der realen Welt, die zeigen, wie unsere Fähigkeit, Fakten von Fiktion zu unterscheiden, untergraben werden kann.
Eine längerfristige und noch perfidere Bedrohung besteht für unser Verständnis von Wahrheit, wenn wir dem, was wir sehen und hören, nicht mehr trauen können. Aus diesem Grund kann jedes kompromittierende Bild, jede kompromittierende Audio- oder Videoaufnahme einer öffentlichen oder Privatperson als Fake abgetan werden – ein Umstand, der als "The Liar's Dividend" bekannt ist.2
Industrie, Behörden und Wissenschaft arbeiten an der Entwicklung besserer Methoden zur Erkennung und Eindämmung synthetischer Medieninhalte und zur Wiederherstellung des Vertrauens. Es gibt mehrere vielversprechende Wege in die Zukunft, aber auch Hindernisse, die es zu überwinden gilt.
Ziel des Strategieframeworks von Microsoft ist es, branchenübergreifend Interessengruppen beim Erkennen, Stoppen, Abwehren und Abschrecken von Propagandaaktionen, insbesondere von Kampagnen ausländischer Angreifer, zu unterstützen.
Erkennen
Wie bei der Cyberabwehr besteht der erste Schritt im Kampf gegen ausländische Einflussnahmeoperationen im Cyberspace darin, diese überhaupt erkennen zu können. Einzelne Unternehmen oder Organisationen können nicht davon ausgehen, dass sie die notwendigen Fortschritte allein erzielen können. Eine neuartige und umfassendere Zusammenarbeit im gesamten Technologiesektor wird hier von entscheidender Bedeutung sein, und Fortschritte bei Analyse von und Reporting zu Einflussnahmeoperationen im Cyberspace werden stark von der Rolle der Zivilgesellschaft abhängen, einschließlich akademischer Einrichtungen und gemeinnütziger Organisationen.
Wie bei der Cyberabwehr besteht der erste Schritt im Kampf gegen ausländische Einflussnahmeoperationen im Cyberspace darin, diese überhaupt erkennen zu können. Einzelne Unternehmen oder Organisationen können nicht davon ausgehen, dass sie die notwendigen Fortschritte allein erzielen können. Eine neuartige und umfassendere Zusammenarbeit im gesamten Technologiesektor wird hier von entscheidender Bedeutung sein, und Fortschritte bei Analyse von und Reporting zu Einflussnahmeoperationen im Cyberspace werden stark von der Rolle der Zivilgesellschaft abhängen, einschließlich akademischer Einrichtungen und gemeinnütziger Organisationen.
Abwehren
Die zweite strategische Säule besteht in der Stärkung der demokratischen Abwehrkräfte, eine seit langem bestehende Priorität, die Investitionen und Innovationen erfordert. Dabei sollten sowohl die Herausforderungen berücksichtigt werden, die Technologien für demokratische Gesellschaften mit sich bringen – insbesondere die Auswirkungen auf Journalismus und lokale Berichterstattung – als auch die Chancen, die sie für einen effektiveren Schutz demokratischer Gesellschaften bieten.
Die zweite strategische Säule besteht in der Stärkung der demokratischen Abwehrkräfte, eine seit langem bestehende Priorität, die Investitionen und Innovationen erfordert. Dabei sollten sowohl die Herausforderungen berücksichtigt werden, die Technologien für demokratische Gesellschaften mit sich bringen – insbesondere die Auswirkungen auf Journalismus und lokale Berichterstattung – als auch die Chancen, die sie für einen effektiveren Schutz demokratischer Gesellschaften bieten.
Hierzu bedarf es kontinuierlicher Investitionen und Innovationen, die den lokalen Bedürfnissen der verschiedenen Länder und Kontinente Rechnung tragen. Diese Probleme sind nicht einfach zu bewältigen und erfordern Multistakeholder-Ansätze, die von Microsoft und anderen Technologieunternehmen zunehmend unterstützt werden.
Stoppen
In den letzten Jahren hat die Digital Crimes Unit (DCU) von Microsoft verschiedene Taktiken verfeinert und Werkzeuge entwickelt, um Cyberbedrohungen von Ransomware über Botnets bis hin zu staatlich gesteuerten Angriffen zu stoppen. Wir haben viele wertvolle Erkenntnisse gewonnen, angefangen bei der Rolle, die das aktive Vereiteln bei der Bekämpfung eines breiten Spektrums von Cyberangriffen spielt.
In den letzten Jahren hat die Digital Crimes Unit (DCU) von Microsoft verschiedene Taktiken verfeinert und Werkzeuge entwickelt, um Cyberbedrohungen von Ransomware über Botnets bis hin zu staatlich gesteuerten Angriffen zu stoppen. Wir haben viele wertvolle Erkenntnisse gewonnen, angefangen bei der Rolle, die das aktive Vereiteln bei der Bekämpfung eines breiten Spektrums von Cyberangriffen spielt.
Bei der Bekämpfung von Cyber-Einflussnahmeoperationen könnte die Vereitelung eine noch wichtigere Rolle spielen, und der beste Ansatz besteht darin, mehr Klarheit zu schaffen. Das wirksamste Gegenmittel gegen breit angelegte Irreführung ist Transparenz. Aus diesem Grund hat Microsoft durch die Übernahme von Miburo Solutions, einem führenden Unternehmen im Bereich der Analyse und Erforschung von Cyberbedrohungen, das sich auf die Erkennung von und die Reaktion auf staatlich gesteuerte Cyber-Einflussnahmeoperationen spezialisiert hat, seine Möglichkeiten zur Erkennung und Vereitelung von staatlich gesteuerter Einflussnahme im Cyberspace erweitert. Durch die Zusammenführung dieser Analysten mit den eigenen Bedrohungskontext-Analysten hat Microsoft das Digital Threat Analysis Center (DTAC) geschaffen. Das DTAC analysiert und erstellt Berichte zu staatlich gesteuerten Bedrohungen, einschließlich Cyberangriffe und Einflussnahmeoperationen. Dabei werden Informationen und Bedrohungsdaten mit geopolitischen Analysen kombiniert, um Erkenntnisse zu gewinnen und wirksame Reaktionen und Schutzmaßnahmen zu ermöglichen.
Abschrecken
Letztlich können wir nicht erwarten, dass Staaten ihr Verhalten ändern, wenn es keine Rechenschaftspflicht für Verstöße gegen internationale Regeln gibt. Die Durchsetzung einer solchen Rechenschaftspflicht liegt allein in der Verantwortung der Regierungen. Dennoch spielen Initiativen verschiedener Interessengruppen eine immer wichtigere Rolle bei der Stärkung und Ausweitung internationaler Regeln.
Letztlich können wir nicht erwarten, dass Staaten ihr Verhalten ändern, wenn es keine Rechenschaftspflicht für Verstöße gegen internationale Regeln gibt. Die Durchsetzung einer solchen Rechenschaftspflicht liegt allein in der Verantwortung der Regierungen. Dennoch spielen Initiativen verschiedener Interessengruppen eine immer wichtigere Rolle bei der Stärkung und Ausweitung internationaler Regeln.
Mehr als 30 Online-Plattformen, Werbetreibende und Verlage – darunter auch Microsoft – haben den kürzlich überarbeiteten Verhaltenskodex der Europäischen Kommission zur Bekämpfung von Desinformation unterzeichnet und sich damit zu einem stärkeren Engagement im Umgang mit dieser wachsenden Herausforderung verpflichtet. Wie der Pariser Appell, der Aufruf von Christchurch und die Erklärung zur Zukunft des Internets zeigen, können multilaterale und von mehreren Interessengruppen getragene Initiativen die Regierungen und die Öffentlichkeit demokratischer Staaten zusammenbringen. Die Regierungen können dann auf diesen Regeln und Gesetzen aufbauen, um die Rechenschaftspflicht voranzubringen, die die Demokratien der Welt brauchen und verdienen.
Durch schnelle und radikale Transparenz können demokratische Regierungen und Gesellschaften Kampagnen zur Einflussnahme wirksam bekämpfen, indem sie die Quelle von Angriffen durch nationalstaatliche Akteure benennen, die Öffentlichkeit informieren und auf diese Weise das Vertrauen in Institutionen stärken.
Quelle: Microsoft-Bericht über digitale Abwehr, November 2022
- [1]
Deepfakes 2020: The Tipping Point, Johannes Tammekänd, John Thomas und Kristjan Peterson, Oktober 2020: https://go.microsoft.com/fwlink/?linkid=2263006
- [2]
Deep Fakes: A Looming Challenge for Privacy https://go.microsoft.com/fwlink/?linkid=2262673