디지털 시대의 정치적 선전: 사이버 영향력 공작이 신뢰를 무너뜨리는 법
오늘의 해외 영향력 공작 팀은 새로운 방법과 기술을 활용하여 보다 효율적이고 효과적으로 신뢰를 무너뜨리도록 설계된 캠페인을 만듭니다.
국가 단위들은 점점 더 정교한 영향력 공작을 통해 국내외에 선전을 유포하고 여론에 영향을 미치고 있습니다. 이러한 캠페인은 신뢰를 무너뜨리고 양극화를 심화시키며 민주적 절차를 위협합니다.
숙련된 지능형 지속 조작 행위자들은 전통적인 미디어와 인터넷 및 소셜 미디어를 함께 사용하여 캠페인의 범위, 규모, 효율성을 크게 확대하고 있으며, 글로벌 정보 에코시스템에 미치는 영향력도 크게 강화하고 있습니다.
매우 사실적인 인공 이미지, 동영상, 오디오를 쉽게 제작하고 배포할 수 있는 도구가 확산되어, 합성 미디어가 더욱 널리 보급되고 있습니다. 미디어 자산의 출처를 인증하는 디지털 출처 증명 기술은 오용을 방지할 수 있는 가능성을 제시합니다.
사이버 영향력 공작으로부터 솔루션을 보호하기 위한 총체적인 접근 방식이 필요합니다. Microsoft는 사이버 영향력 공작에 대응하기 위해 이미 성숙한 사이버 위협 인텔리전스 인프라를 구축하고 있습니다. Microsoft의 전략은 해외 공격자의 선전 캠페인을 탐지, 방해, 방어, 억제하는 것입니다.
2019년 이후 딥페이크 확산율 전년 대비 900% 증가1
기술이 발전함에 따라 영향력 공작이 빠른 속도로 점점 더 정교해지고 있습니다. 기존 사이버 공격에 사용되던 도구들이 사이버 영향력 공작에 중복 및 확장되고 있습니다. 또한, 국가 단위 간 공조와 증폭도 증가하고 있습니다.
전 세계의 권위주의 정권은 서로의 이익을 위해 정보 에코시스템을 오염 시키는 데 협력하고 있습니다. 국가가 운영하는 미디어 매체는 상호 증폭을 통해 한 국영 미디어 매체가 생산한 민주주의 국가에 대한 부정적인 보도 또는 동맹국에 대한 긍정적인 보도가 다른 미디어 매체에 의해 강화되는 에코시스템을 조성합니다.
더 큰 문제는 민간 부문 기술 기업이 무의식적으로 이러한 캠페인을 조장할 수 있다는 점입니다. 인터넷 도메인을 등록하고, 웹 사이트를 호스팅하고, 소셜 미디어와 검색 사이트에서 자료를 홍보하고, 트래픽을 유도하고, 디지털 광고를 통해 이러한 캠페인에 비용을 지원하는 기업 등이 해당 캠페인을 조장하는 주체가 될 수 있습니다.
조직은 권위주의 정권이 사이버 영향력 공작을 위해 사용하는 도구와 방법을 알고 있어야 캠페인의 확산을 감지하고 방지할 수 있습니다.
또한 소비자가 외국의 영향력 공작을 식별하고 그들의 이야기나 콘텐츠에 대한 참여를 제한할 수 있는 보다 정교한 능력을 개발할 수 있게 지원할 필요성이 커지고 있습니다.
투명성을 높이고 이러한 영향력 캠페인을 폭로하고 방해하기 위해서는 정부, 민간 부문, 시민 사회 전반의 협력과 정보 공유가 강화되어야 합니다.
- 외국의 사이버 영향력 공작은 인터넷의 공개 영역에서, 때로는 거짓 이야기를 포함한 선전을, 때로는 현실 세계의 사건이나 도발을 통해 퍼뜨려집니다. 인터넷에서 눈에 띄지 않는 거짓 이야기는 후속 언급을 더 믿음직하게 느껴지도록 만들 수 있습니다.
예시 1
팬데믹 초기, 러시아 및 이란 국영 미디어와 연계된 음모론 웹 사이트에서는 코로나19가 미국이 만든 생물무기라는 한 법학 교수의 인터뷰를 게재했습니다.
예시 2
3월 7일, 러시아는 우크라이나 마리우폴의 한 산부인과 병원이 비워져 군사 시설로 사용 중이라는 주장을 유엔(UN)에 제출하여 사전 선전을 펼쳤습니다.
- 정부 지원을 받는 영향력 있는 언론 매체와 소셜 미디어 채널을 통해 이 사실을 전파하려는 조직적인 캠페인이 시작되었습니다.
예시 1
2020년 2월, 이란 정부가 후원하는 PRESSTV는 이 인터뷰에 대한 영어 기사를 게재했고, 러시아 국영 언론 매체와 중국 정부 계정도 곧 이 기사에 대해 논평하기 시작했습니다.예시 2
3월 9일, 러시아는 병원을 폭격했습니다. 폭격 소식이 전해지자 러시아 유엔 대표는 트위터를 통해 폭격 보도는 “가짜 뉴스”라며 군사 시설로 사용되었다는 러시아의 이전 주장을 인용했습니다. - 마지막으로, 국가 단위가 통제하는 미디어와 대리 조직은 대상으로 삼은 청중 내부에서 이야기를 증폭시킵니다. 종종 기술 조력자들이 이야기의 도달 범위를 무의식적으로 확장하기도 합니다.
예시 1
국영 매체 러시아 투데이(Russia Today)도 코로나19가 “이란과 중국을 겨냥한 ‘미국의 생물학적 공격’의 산물”이라는 이란 관리의 발언을 홍보하는 기사를 한 건 이상 게재하고 이를 암시하는 소셜 미디어 게시물을 퍼 나르기도 했습니다.예시 2
그런 다음 러시아는 병원 공격 이후 2주 동안 러시아가 통제하는 웹 사이트를 통해 이 이야기를 광범위하게 퍼뜨렸습니다. 온라인에서 이러한 이야기가 퍼져나가자 러시아는 국제 무대에서 비난을 피하고 책임을 모면할 수 있게 되었습니다.
합성 미디어
우리는 AI를 활용한 미디어 제작 및 조작의 황금기에 접어들고 있습니다. Microsoft 분석가들은 이러한 현상은 매우 사실적인 합성 이미지, 비디오, 오디오 및 텍스트를 인공적으로 생성하기 위한 간단한 도구 및 서비스의 확산과, 특정 대상에 최적화된 콘텐츠를 신속하게 배포할 수 있는 능력이라는 두 가지 주요 추세에 의해 주도되고 있다고 말합니다.
합성 텍스트 및 미디어 분야는 놀라울 정도로 빠르게 발전하고 있으며, 어떤 사람이 말하거나 행동하는 합성 동영상을 누구나 만들 수 있는 시점이 아주 가까이 다가왔습니다.
딥페이크: 합성 텍스트 및 미디어 기술
이러한 기술은 개인, 회사 또는 기관에 대한 협박을 시도하거나 개인을 곤란한 위치나 상황에 처하게 하는 데 사용될 수 있습니다. 이러한 고급 AI 기반 기법이 아직 사이버 영향 캠페인에 널리 사용되지는 않지만, 도구의 사용이 더욱 쉬워지고 더 널리 보급됨에 따라 문제가 커질 것으로 예상됩니다.
- 동영상 속 얼굴을 다른 얼굴로 바꾸기
- 동영상을 사용하여 정지 이미지 또는 다른 동영상에 애니메이션 적용하기
- 사실적인 이미지 생성을 위한 기술 제품군
- 텍스트 설명에서 풍부한 이미지 만들기
해를 입히거나 영향력을 확대하기 위해 정보 작전을 사용하는 것은 새로운 일이 아닙니다. 그러나 정보가 확산되는 속도가 빠르고 우리는 사실과 허구를 빠르게 구분할 수 없기 때문에 가짜 및 기타 인위적으로 생성된 악성 미디어가 끼치는 영향력과 피해는 훨씬 더 커질 수 있습니다.
시세 조작, 결제 사기, 비싱, 사칭, 브랜드 손상, 평판 손상, 봇넷 등 피해의 범위는 여러 범주에 걸쳐져 있습니다. 이러한 범주 중 상당수는 실제 사례가 널리 보고되어 있어 사실과 허구를 구분하는 능력을 약화시킬 수 있습니다.
더 장기적이고 교묘한 위협은, 우리가 보고 듣는 것을 더 이상 신뢰할 수 없게 되었을 때 무엇이 진실인지를 파악하기 어렵게 된다는 것입니다. 이로 인해 공적 인물이나 사적 인물의 이미지, 오디오 또는 동영상이 거짓으로 여겨질 수 있으며, 이런 결과를 거짓말쟁이의 배당금이라 합니다.2
업계, 정부, 학계 전반에서 합성 미디어를 탐지 및 완화하고 신뢰를 회복하기 위한 더 나은 방법을 개발하기 위해 애쓰고 있습니다. 앞으로 효과적일 것으로 보이는 방법도 있지만 장벽도 있습니다.
Microsoft의 전략 프레임워크는 여러 부문의 이해관계자가 선전, 특히 해외 공격자의 캠페인을 탐지, 방해, 방어 및 억제할 수 있도록 지원하는 것을 목표로 합니다.
탐지
사이버 방어와 마찬가지로 외국의 사이버 영향력 공작에 대응하는 첫 번째 단계는 이를 탐지할 수 있는 역량을 개발하는 것입니다. 한 기업이나 조직이 개별적으로 필요한 진전을 이룰 수는 없습니다. 사이버 영향력 공작의 분석 및 보고 시 학계와 비영리 단체를 포함한 시민 사회의 역할에 크게 의존하는 기술 부문 전반에서 새롭고 광범위한 협력이 매우 중요합니다.
사이버 방어와 마찬가지로 외국의 사이버 영향력 공작에 대응하는 첫 번째 단계는 이를 탐지할 수 있는 역량을 개발하는 것입니다. 한 기업이나 조직이 개별적으로 필요한 진전을 이룰 수는 없습니다. 사이버 영향력 공작의 분석 및 보고 시 학계와 비영리 단체를 포함한 시민 사회의 역할에 크게 의존하는 기술 부문 전반에서 새롭고 광범위한 협력이 매우 중요합니다.
방어
두 번째 전략적 기둥은 투자와 혁신이 필요한 오랜 우선순위인 민주적 방어를 강화하는 것입니다. 기술로 인해 민주주의 사회에 발생한 도전 과제, 특히 저널리즘과 지역 뉴스의 붕괴 같은 문제와 기술이 민주주의 사회의 보다 효과적인 방어를 위해 창출한 기회를 고려해야 합니다.
두 번째 전략적 기둥은 투자와 혁신이 필요한 오랜 우선순위인 민주적 방어를 강화하는 것입니다. 기술로 인해 민주주의 사회에 발생한 도전 과제, 특히 저널리즘과 지역 뉴스의 붕괴 같은 문제와 기술이 민주주의 사회의 보다 효과적인 방어를 위해 창출한 기회를 고려해야 합니다.
이를 위해서는 지속적인 투자와 혁신이 필요하여, 이는 다양한 국가와 대륙의 현지 요구 사항을 반영해야 합니다. 이러한 문제는 쉽지 않고, 여러 이해관계자의 접근 방식이 필요하며, Microsoft와 다른 기술 기업들이 지원을 점점 더 강화하고 있습니다.
방해
최근 몇 년 간 Microsoft의 디지털 범죄 부서(DCU)는 랜섬웨어부터 봇넷, 국가 단위 공격에 이르는 다양한 사이버 위협을 방해할 전술을 개선하고 도구를 개발해 왔습니다. 광범위한 사이버 공격에 대응할 때 능동적 교란의 역할 등 많은 중요한 교훈을 얻었습니다.
최근 몇 년 간 Microsoft의 디지털 범죄 부서(DCU)는 랜섬웨어부터 봇넷, 국가 단위 공격에 이르는 다양한 사이버 위협을 방해할 전술을 개선하고 도구를 개발해 왔습니다. 광범위한 사이버 공격에 대응할 때 능동적 교란의 역할 등 많은 중요한 교훈을 얻었습니다.
사이버 영향력 공작에 대한 대응에서 방해는 더욱 중요한 역할을 할 수 있으며, 방해를 위한 최선의 접근 방식이 더욱 명확해지고 있습니다. 광범위한 속임수에 대한 가장 효과적인 대책은 투명성입니다. 이것이 바로 Microsoft가 해외 사이버 영향력 공작의 탐지 및 대응을 전문으로 하는 선도적인 사이버 위협 분석 및 연구 기업 Miburo Solutions를 인수하여 국가 단위 영향력 공작을 탐지하고 방해하는 역량을 강화한 이유입니다. 이 분석가들과 Microsoft의 위협 상황 분석가들을 모아 설립한 것이 DTAC(디지털 위협 분석 센터)입니다. DTAC는 사이버 공격과 영향력 공작을 포함한 국가 단위 위협을 분석하고 보고하며, 정보 및 위협 인텔리전스와 지정학적 분석을 결합하여 인사이트를 제공하고 효과적인 대응 및 보호를 위한 정보를 제공합니다.
억제
마지막으로, 국제 규칙 위반에 대한 책임성이 없다면 국가들이 행동을 바꾸리라고 기대할 수 없습니다. 이러한 책임성을 부과하는 것은 정부의 고유한 의무입니다. 하지만 국제 규범을 강화하고 확대하는 데 여러 이해관계자들의 역할이 점점 더 중요해지고 있습니다.
마지막으로, 국제 규칙 위반에 대한 책임성이 없다면 국가들이 행동을 바꾸리라고 기대할 수 없습니다. 이러한 책임성을 부과하는 것은 정부의 고유한 의무입니다. 하지만 국제 규범을 강화하고 확대하는 데 여러 이해관계자들의 역할이 점점 더 중요해지고 있습니다.
Microsoft를 비롯한 30여 개의 온라인 플랫폼, 광고주 및 퍼블리셔는 유럽연합 집행위원회(European Commission)에서 최근 업데이트한 ‘허위 정보에 대한 실천 강령(Code of Practice on Disinformation)’에 서명함으로써 심화되는 이 문제를 해결하기 위해 노력을 강화하기로 동의했습니다. 최근의 파리 콜, 크라이스트처치 콜, 인터넷의 미래에 관한 선언에서와 마찬가지로, 다자간 행동과 여러 이해관계자의 행동은 민주주의 국가들 사이에서 정부와 대중을 하나로 모을 수 있습니다. 그런 다음 정부는 이러한 규범과 법률을 기반으로 세계 민주주의 국가들이 필요로 하고 마땅히 누려야 할 책임성을 증진시킬 수 있습니다.
민주주의 정부와 사회는 급진적인 투명성을 통해 국가 단위 공격의 근원을 밝히고, 대중에게 알리고, 기관에 대한 신뢰를 구축함으로써 공격 캠페인의 영향력을 효과적으로 약화시킬 수 있습니다.
출처: Microsoft 디지털 방어 보고서, 2022년 11월
- [1]
Deepfakes 2020: The Tipping Point, Johannes Tammekänd, John Thomas, and Kristjan Peterson, October 2020 - https://go.microsoft.com/fwlink/?linkid=2263006
- [2]
Deep Fakes: A Looming Challenge for Privacy https://go.microsoft.com/fwlink/?linkid=2262673