デジタル時代のプロパガンダ: サイバー影響工作はいかに信頼を損なわせるか
今日の対外影響工作では、新しい手法や技術が駆使され、信頼を損なうことを目的としたキャンペーンがより効率的かつ効果的なものになっています。
国内外を問わず、国家がますます洗練された影響工作を使用してプロパガンダを流布し、世論に影響を与えるようになっています。こうしたキャンペーンは信頼を損ない、偏向を強め、民主的プロセスを脅かします。
スキルの高い Advanced Persistent Manipulator アクターは、従来型のメディアをインターネットやソーシャル メディアと併用することで、キャンペーンの範囲、スケール、効率を大幅に拡大し、グローバルな情報エコシステムに与える影響を増大させています。
合成メディアは、非常にリアルな人工的な画像、映像、音声を簡単に作成して配布するツールの普及により、より一般的になりつつあります。メディア アセットの出所を証明するデジタル証明テクノロジは、悪用と闘うための有効な手段です。
サイバー影響工作の行使からソリューションを保護するためには、総合的なアプローチが必要です。Microsoft は既に、成熟したサイバー脅威インテリジェンス インフラストラクチャを基盤として、サイバー影響工作に対抗しています。Microsoft の戦略は、外国の侵略者によるプロパガンダ キャンペーンを検出、妨害、防御し、抑止することです。
2019 年以降、ディープ フェイクの拡散は前年比 900% 増1
テクノロジの進化に伴い、サイバー影響工作はますます巧妙になってきています。従来のサイバー攻撃で使用されていたツールがサイバー影響工作に応用され、一部重複したり、拡大したりしているのがわかっています。さらに、国家間の連携と増幅が進んでいることも確認されています。
世界中の権威主義体制は、互いに有利になるように、協力して情報エコシステムを汚染しています。国家が運営するメディア放送局は、互いに増幅し合うことで、ある国家メディア放送局によって作られた民主主義国家に対する否定的な報道、あるいは同盟国に対する肯定的な報道が、他のメディアによって強化されるというエコシステムを作っています。
さらに課題を大きくしているのが、民間のテクノロジ企業が知らないうちにこうしたキャンペーンを助長している可能性もあるのです。イネーブラーには、インターネット ドメインの登録、Web サイトのホスティング、ソーシャル メディアや検索サイトでの宣伝、トラフィックの誘導、デジタル広告を通じた広告費の支払いなどを行う企業が含まれます。
組織は、権威主義体制がサイバー影響工作のために採用しているツールや方法を認識し、キャンペーンの拡散を検知して防止できるようにする必要があります。
また、外国の影響工作を特定し、そのシナリオやコンテンツへの関与を制限するため、消費者がより洗練された能力を身につけるための支援を行う必要性も高まっています。
透明性を高め、このような影響工作キャンペーンを明らかにし、妨害するためには、政府、民間企業、市民社会全体での連携と情報共有の強化が必要です。
- 外国のサイバー影響工作は、時には虚偽の物語を含むプロパガンダをインターネット上のパブリック ドメインに導入し、現実世界の出来事や挑発を通じて導入することもあります。インターネット上で気づかれずに横たわる偽のシナリオは、その後に参照されたときの信憑性を高めます。
例 1
パンデミックの初期には、ロシアやイランの国営メディアと提携したフリンジ陰謀 Web サイトが、COVID-19 は米国によって作られた生物兵器であると示唆する法学教授のインタビューを掲載しました。
例 2
3 月 7 日、ロシアは国連 (UN) への申請を通じて、ウクライナのマリウポリにある産科病院が空っぽにされ、軍事施設として使用されているとのシナリオを事前に主張しました。
- 政府の支援を受け、影響を受けているメディア放送局やソーシャル メディア チャンネルを通じて、シナリオを広めるための協調的なキャンペーンが開始されます。
例 1
2020 年 2 月、イラン政府がスポンサーとなっている PRESSTV がインタビューに関する英文記事を掲載し、ロシアの国営メディアや中国政府のアカウントもすぐにこの記事についてコメントし始めました。例 2
3 月 9 日、ロシアはこの病院を爆撃しました。爆撃のニュースが伝わると、ロシアの国連代表は、爆撃の報道は "フェイク ニュース" だとツイートし、軍事拠点として使用された疑いがあるというロシアの以前の主張を引き合いに出しました。 - 最後に、国家が管理するメディアと代理人が、ターゲットとする視聴者の中でシナリオを増幅させます。多くの場合、知らず知らずのうちにテクノロジ イネーブラーたちがシナリオの範囲を広げています。
例 1
国営放送の Russia Today (RT) も、COVID-19 は "イランと中国を狙った「米国の生物学的攻撃」の産物" である可能性があるというイラン当局者の発言を宣伝する記事を少なくとも 1 本掲載し、それを示唆するソーシャル メディアの投稿を前面に押し出しました。例 2
そしてロシアは、病院が攻撃された後 2 週間にわたって、ロシアの管理下にある Web サイトでこのシナリオを大々的に流しました。このようなストーリーがオンライン上で増幅されることで、ロシアは国際舞台での非難をそらし、説明責任を回避するのです。
合成メディア
私たちは、AI によるメディアの創造と操作の黄金期を迎えようとしています。Microsoft のアナリストは、この背景には次の 2 つの重要なトレンドがあると指摘します。非常にリアルな合成画像、動画、音声、テキストを人工的に作成するための使いやすいツールやサービスの普及、および特定の視聴者向けに最適化されたコンテンツを迅速に発信する能力です。
合成テキストや合成メディアの分野は驚くほど急速に進歩しており、誰かが何かを言ったり何かをやったりしている合成映像を誰もが作成できるところまで、あとわずかというところまで来ています。
ディープフェイク: 合成テキストとメディアの技術
これらのテクニックは、個人、企業、機関への恐喝を試みたり、個人を恥ずかしい場所や状況に追い込んだりするために使われることがあります。このような高度な AI ベースの技術は、現在のサイバー影響工作キャンペーンではまだ広く使用されていませんが、ツールが使いやすくなり、より広く利用できるようになるにつれて、この問題は大きくなると予想されます。
- ビデオ内の顔を別の顔に置き換える
- 動画を使って静止画や別の動画をアニメーションにする
- 写真のようにリアルな画像を生成する技術ファミリ
- テキストの説明から豊かなイメージを生み出す
危害を加えたり影響力を拡大したりするために情報作戦を利用することは、今に始まったことではありません。しかし、情報が拡散するスピードが速く、事実と虚構をすばやく見分けることができないため、偽物やその他の合成的に生成された悪意のあるメディアによって引き起こされる影響や被害は、はるかに大きくなる可能性があります。
市場操作、支払い詐欺、ビッシング、偽装、ブランドのダメージ、風評被害、ボットネットなど、私たちが考える被害にはいくつかのカテゴリがあります。これらのカテゴリの多くには、広く報告されている実例があります。そして、これによって事実と虚構を区別する能力が損なわれる可能性があります。
より長期的で、より油断ならない脅威とは、私たちが見たり聞いたりしたことが、もはや信用できなくなることです。公的および私的な人物のどんな危険な画像、音声、映像もフェイクと見なされてしまう可能性があります。この結果は "嘘つきの配当" として知られています。2
合成メディアを検知して軽減し、信頼を回復するためのより良い方法を開発するために、産官学を挙げて取り組みが進められています。期待がもてる道筋がいくつかある一方で、検討を要する障壁もあります。
Microsoft の戦略フレームワークは、分野横断的な利害関係者が、プロパガンダ (特に外国の侵略者によるキャンペーン) を検出、妨害、防御し、抑止できるよう支援することを目的としています。
検出
サイバー防衛と同様に、外国のサイバー影響工作に対抗するための第一歩は、それを検出する能力を開発することです。1 つの企業や組織が必要な進歩を個別に成し遂げることはできません。技術分野全体にわたる、新たな、そしてより広範なコラボレーションが不可欠であり、サイバー影響影響工作の分析と報告における進歩は、学術機関や非営利団体を含む市民社会の役割に大きく依存しています。
サイバー防衛と同様に、外国のサイバー影響工作に対抗するための第一歩は、それを検出する能力を開発することです。1 つの企業や組織が必要な進歩を個別に成し遂げることはできません。技術分野全体にわたる、新たな、そしてより広範なコラボレーションが不可欠であり、サイバー影響影響工作の分析と報告における進歩は、学術機関や非営利団体を含む市民社会の役割に大きく依存しています。
防御
第二の戦略的柱は、民主主義の防衛を強化することで、これは投資とイノベーションを必要とする長年の優先課題です。特にジャーナリズムとローカル ニュースの混乱など、テクノロジが民主主義社会にもたらした課題と、テクノロジが民主主義社会をより効果的に防衛するために生み出した機会を考慮する必要があります。
第二の戦略的柱は、民主主義の防衛を強化することで、これは投資とイノベーションを必要とする長年の優先課題です。特にジャーナリズムとローカル ニュースの混乱など、テクノロジが民主主義社会にもたらした課題と、テクノロジが民主主義社会をより効果的に防衛するために生み出した機会を考慮する必要があります。
そのためには、さまざまな国や大陸のローカルなニーズを反映した、継続的な投資とイノベーションが必要です。このような問題は容易ではなく、複数の利害関係者を考慮したアプローチが必要です。そして Microsoft をはじめとするテック企業は、その支援にますます力を注いでいます
妨害
近年、Microsoft の Digital Crimes Unit (DCU) は、ランサムウェアからボットネット、国家主導型攻撃にいたるまで、サイバー脅威を妨害するための戦術を洗練させ、ツールを開発してきました。Microsoft は、広範なサイバー攻撃に対抗するための積極的な妨害活動の役割を始めとし、多くの重要な教訓を学びました。
近年、Microsoft の Digital Crimes Unit (DCU) は、ランサムウェアからボットネット、国家主導型攻撃にいたるまで、サイバー脅威を妨害するための戦術を洗練させ、ツールを開発してきました。Microsoft は、広範なサイバー攻撃に対抗するための積極的な妨害活動の役割を始めとし、多くの重要な教訓を学びました。
サイバー影響工作に対抗することを考えるとき、妨害はさらに重要な役割を果たす可能性があり、破壊に対する最善のアプローチも明らかになりつつあります。広範な欺瞞に対する最も効果的な解毒剤は、透明性です。だからこそ Microsoft は、外国のサイバー影響工作の検出と対応を専門とするサイバー脅威分析および調査会社の大手である Miburo Solutions を買収することで、国家主導の影響工作を検出し、妨害する能力を高めたのです。これらのアナリストと、Microsoft の脅威状況アナリストに加わってもらい、Microsoft は Digital Threat Analysis Center (DTAC) を設立しました。DTAC は、サイバー攻撃と影響工作の両方を含む国家主導型脅威を分析および報告し、情報と脅威インテリジェンスを地政学的分析と組み合わせることで、インサイトを提供し、効果的な対応と保護に関する情報を提供します。
抑止
最後に、国の問題行動を改めさせるには、国際ルールに違反する行為について結果責任を問えるしくみが必要です。そのような仕組みを適用する役割を果たせる存在は政府しかありません。しかし、国際規範の強化と拡大に関しては、複数のステークホルダーが共同で行動を起こすことの重要性が高まっています。
最後に、国の問題行動を改めさせるには、国際ルールに違反する行為について結果責任を問えるしくみが必要です。そのような仕組みを適用する役割を果たせる存在は政府しかありません。しかし、国際規範の強化と拡大に関しては、複数のステークホルダーが共同で行動を起こすことの重要性が高まっています。
欧州委員会の Code of Practice on Disinformation (偽情報に関する行動規範) が最近改定された際には、Microsoft を含む 30 社あまりのオンライン プラットフォーム、広告主、パブリッシャーが、この問題の深刻化に対応する取り組みの強化に賛同し、署名しました。最近の事例である Paris Call、Christchurch Call、および Declaration on the Future of the Internet のような、国際的な協力のもとで複数のステークホルダーが起こす行動は、民主主義世界の中で国々の政府と一般民衆が手を組む機会になります。政府はこうした動きを受けて、それぞれの規範や法律を基盤にしながら、世界中の民主主義国家に必要な責任や担うべき責任の明確化を推進することができます。
民主的な政府と社会は、急進的な透明化を通じて、国家主導型攻撃の発信源を明らかにし、国民に情報を提供し、制度に対する信頼を築くことで、影響工作キャンペーンを効果的に減退させることができます。
出典: 2022 年 11 月、Microsoft デジタル防衛レポート
- [1]
ディープフェイク 2020: The Tipping Point、Johannes Tammekänd、John Thomas、Kristjan Peterson、2020 年 10 月 - https://go.microsoft.com/fwlink/?linkid=2263006
- [2]
ディープフェイク: プライバシーに迫り来る課題https://go.microsoft.com/fwlink/?linkid=2262673