미디어 이슈 & 트렌드 60호(1+2월)

1. 들어가며

인공지능(AI) 기술의 급속한 발전은 현대사회에 극적인 변화를 가져오고 있으며, 우리의 일상생활에 다양한 영향을 미치고 있다. 딥페이크(Deepfake)는 '딥러닝(Deep Learning)'과 '가짜(Fake)'의 합성어로, 인공지능 기술을 활용하여 실제와 구별하기 어려운 가짜 오디오, 사진, 동영상을 생성하는 기술이다. 딥페이크는 주로 딥러닝 기술을 사용하여, 기존의 사진, 영상, 음성 등을 합성하거나 변조, 새로운 콘텐츠를 생성한다.^{1) 2)} 딥페이크 기술의 등장 이전, 가짜 콘텐츠는 주로 단순한 포토샵 작업이나 비전문적 비디오 편집에 의존했는데, 이러한 초기 가짜 콘텐츠는 대체로 품질이 낮아 피사체의 부자연스러운 움직임이나 피사체 주변의 흐릿한 경계 등으로 합성 콘텐츠임을 식별하기 쉬웠다.²⁾ 그러나, 딥페이크 기술 발전으로 매우 정교하고 실제와 구분하기 어려운 콘텐츠가 생산되고 있다.²⁾ 이러한 콘텐츠는 눈으로 봐서는 진짜와 가짜를 구별하기 어렵다. 딥페이크 기술은 유명 인사들의 얼굴을 다른 사람의 몸에 합성하는 등 가짜 음란물로 명예 훼손 사건을 일으켰으며, 최근에는 음란물 외 투자 사기 광고 등에 활용되어 투자 사기(Investment Scam) 등 문제를 유발하고 있다. 본고의 2장에서는 광고 조작(Advertising Manipulation)*의 발달 과정을 살펴보고, 3장에서는 딥페이크 기술을 활용한 국내외 투자 사기 광고 사례들을 살펴본 후, 4장에서 딥페이크 사기 광고 대응과 전망을 살펴보고자 한다.

2. 광고 조작(Manipulation in Advertising)의 진화

광고 조작이란 광고 제작 전후 적용되는 다양한 기술을 통해 광고 콘텐츠의 품질을 향상하는 포괄적 활동을 의미한다.¹⁾ 이러한 활동에는 사진 리터치, 특수 조명 사용, 특정 카메라 렌즈 사용, 메이크업 등이 포함되며, 이는 기술의 발전에 따라 1.0세대부터 3.0세대까지 진화해왔다.¹⁾ 1.0세대 광고 조작은 아날로그 조작(Analog Manipulation)으로, 광고 제작자가 콘텐츠를 완성한 후 흠을 자연스럽게 제거하기 위해 물리적 도구를 사용하는 기법이다. 이는 주로 메이크업, 조명, 에어브러시 사용 등을 포함하며, 특히 사진 광고에 주로 사용됐다. 광고 콘텐츠 제작을 위해 가능한 최상의 조건을 만드는 것을 목적으로 한다.³⁾

다음으로, 2.0세대 광고 조작은 디지털 조작(Digital Manipulation)이다. 이는 포토샵이나 파이널 컷 프로, 인스타그램 필터 등 디지털 도구를 사용한 사진이나 비디오 수정을 의미한다. 고차원적으로는 컴퓨터 생성 이미지(Computer Generated Image) 사용도 포함한다. 아날로그 조작이 광고 제작 시 여전히 흔하게 사용되지만, 디지털 도구 활용으로 점점 전환되는 추세이기도 하다.¹⁾

마지막으로, 3.0세대 광고 조작은 합성 조작(Synthetic Manipulation)이다. 인공지능 알고리즘을 사용해 콘텐츠를 자동으로 편집하거나 생성하는 기술을 포함한다. 딥페이크는 이러한 합성 조작의 한 예이며, 합성 조작은 소비자에게 초개인화된 광고를 제공함으로써 소비자의 관심과 반응을 극대화하는 것을 목적으로 한다.¹⁾

1.0~3.0세대의 광고 조작은 서로 대체하기보다는 보완하며 공존한다.¹⁾ 아날로그 조작은 다른 조작들에 비해 상대적으로 간단한 도구를 통해 이뤄지고, 디지털 조작은 콘텐츠 편집과 개선을 더욱 손쉽게 만들며, 합성 조작은 고품질 광고를 적은 비용으로 생산할 새로운 기회를 제공하고 있다.¹⁾

3. 딥페이크 기술을 활용한 투자 사기 광고 사례

딥페이크 기술이 광고 분야에서 활용되고 있지만, 그 결과가 대부분 긍정적이라고 보긴 어렵다. 특히, 최근에 소비자들의 투자를 유도하는 사기성 광고에 주로 이 기술이 사용되고 있어, 그 위험성이 높게 보고되고 있다. 즉, 딥페이크 기술의 부정적 사례들이 긍정적 사례들보다 훨씬 많이 알려지고 있어서 기술의 부적절한 사용이 불러올 위험성에 대한 우려가 존재한다는 것이다.