어느날 갑자기, 실제로 출연한 적은 없지만 내 모습을 한 인물이 나오는 성착취 영상을 보게 된다면 어떤 기분이 들까요? 최근 이와 같은 사례가 빈번하게 발생하고 있습니다. ‘딥페이크’ 기술이 발달함에 따라 이미지를 생생하게 합성하는 것이 가능해졌고, 그것이 급속도로 번질 수 있게 되면서, 피해자가 여럿 양산되고 있죠. 오늘 주제에서는 딥페이크의 탄생 배경과 사례, 마지막으로 규제 방법에 대해 자세히 알아보겠습니다.
딥페이크는 딥 러닝의 ‘Deep’과 가짜를 뜻하는 ‘fake’를 섞은 용어로, 인공지능 기술을 통해 현실에 존재하지 않거나, 발생한 적이 없는 사건을 이미지, 비디오, 오디오 등을 합성하여 만들어내는 기술입니다. 딥페이크에서 주로 사용되는 인공지능 알고리즘은 GAN(Generative Adversarial Network)입니다. 이와 더불어, 오토인코더(Autoencoderes), RNN(Recurrent Neural Networks) 등, 다양한 알고리즘이 개발되어 있죠. 2010년대 중반, 딥러닝의 핵심 기술이 발전하면서 이미지와 동영상을 변조하는 기술이 함께 성장했습니다. 특히 GAN은 두 개의 신경망이 경쟁하는 방식으로 작동하는데, 이는 딥러닝 연구에 큰 혁신을 가져왔어요. GAN은 스스로 학습하는 능력이 뛰어난 알고리즘으로, 기존의 알고리즘과는 완전히 다른 패러다임을 제시했기 때문입니다. ‘딥페이크’라는 이름은 2017년, 온라인 커뮤니티 ‘레딧’의 한 사용자가 포르노 딥페이크물을 사이트에 게시하면서 통용되기 시작했어요. 이때를 기점으로 딥페이크 기술이 전세계로 빠르게 확산하기도 했죠. 사실, 딥페이크 기술이 처음부터 불건전한 목적을 가진 것은 아니었습니다. 오히려, 딥페이크는 이미지 생성, 영상 합성, 데이터 증강 등의 창의적인 작업을 위해서 만들어진 것이었죠. 예를 들어, 딥페이크를 이용하여 낮은 품질의 이미지를 복원하는 등의 성과는 긍정적인 평가를 받곤 했습니다.
그러나 딥페이크 기술이 악용되기 시작하면서, 윤리적 문제와 사회적 논란이 불거졌어요. 정치적 인물이나 유명인의 발언을 조작해 여론을 왜곡하는 가짜 뉴스를 만드는 것이 그에 대한 예시입니다. 가장 주목받는 사례 중 하나는, 버락 오바마 전 미국 대통령을 대상으로 한 딥페이크 영상이에요. 이 영상에는 오바마 전 미국 대통령이 트럼프 대통령을 비난하는 내용이 담겨 있었는데, 이는 곧 딥페이크에 의해 제작된 것으로 판명되었죠. 이 사례는 딥페이크가 지닌 위험성을 널리 알리는 계기였습니다.
이에 더하여, 딥페이크는 프라이버시 침해, 명예 훼손, 사이버 성범죄와 디지털 성폭력 등의 문제를 일으킬 수 있습니다. 최근 텔레그램에서 딥페이크 영상을 공유한 이들이 적발된 사건이 대표적인 예시죠. 이들은 SNS 상에 올라온 여성들의 사진을 무단으로 수집해 딥페이크 음란물과 합성하여 유포했습니다. 이는 피해자들에게 심각한 정신적 타격을 주었죠. 이외, 법정에서 딥페이크를 이용하여 증거를 조작한다거나, 금융 기관의 인증 시스템을 속이는 등의 문제도 제기되고 있습니다.
하지만 딥페이크에 문제점만 있는 것은 아닙니다. 영화 산업의 경우, 배우가 직접 출연할 수 없는 장면에 배우의 얼굴을 합성하거나, 고인이 된 배우를 영화에 다시 등장시키는 등, 다방면의 작업을 가능하게 해주는 것 또한 딥페이크의 역할이에요. 실제로, 2016년 영화 <로그 원: 스타워즈 스토리>에서 고인이 된 배우 피터 커싱의 모습이 딥페이크와 CGI 기술로 재현된 바 있습니다. 그리고 언어 교육과 번역 등에도 딥페이크 기술이 유용하게 사용될 수 있습니다. 언어 장벽을 넘을 수 있도록 통역 및 더빙 기술을 지원하고, 역사적 인물의 영상을 재현하는 것 등이 좋은 예시죠. 심각한 상처나 사고로 인해 얼굴이 손상된 환자의 얼굴을 복원하는 시뮬레이션에도, 환자의 동작이나 표정을 재현하는 작업이 필요한 의학 교육에 있어서도, 딥페이크 기술은 매우 유용합니다. 게임 또는 가상 현실 환경에서 캐릭터를 더욱 자연스럽고 생동감 있게 만들고, 사용자 자신의 얼굴을 게임 캐릭터로 변환하는 등의 기술에도 딥페이크가 활용됩니다.
이처럼, 딥페이크는 부정적인 측면과 긍정적인 측면을 동시에 가지고 있는 기술입니다. 딥페이크 기술의 긍정적인 측면이 부각되기 위해서는, 적절한 규제와 관리가 필요한데요, 각국에서는 딥페이크와 관련한 여러 사회적, 법적 조치를 취하고 있습니다. 한국의 경우, 딥페이크를 이용한 성적 영상 제작 및 유포를 처벌하는 법안을 강화했어요. 딥페이크 성착취물을 소지 및 시청할 경우, 최대 징역 3년에 처할 수 있도록 하는 ‘딥페이크 처벌법’이 지난 26일 국회 본회의를 통과했는데요, 이는 딥페이크에 의한 피해자가 발생하지 않도록 하는 중요한 조치입니다. 미국의 경우, 주정부 차원에서의 규제 법안이 나오는 가운데, 캘리포니아주가 선두에 서고 있습니다. 미국 캘리포니아 주의회는 인공지능으로 미성년자 청착취물을 생성하거나 소지 및 배포할 경우 처벌하는 법안을 통과시켰는데, 이는 실제 미성년자가 등장해야만 처벌이 가능한 현행법을 고친 것입니다. 유럽연합(EU)는 2024년 5월, 세계 최초로 포괄적 성격의 AI 규제법을 승인했고, 이는 2026년부터 전면적으로 시행됩니다. 이 법은 기업이 제공하는 AI 서비스를 위험도에 따라 나눠 차등적으로 규제하고, 법령을 위반할 경우 매우 큰 금액의 벌금이 부과될 수 있습니다.
딥페이크는 우리가 더욱 창의적이고 풍부한 경험을 누릴 수 있게 해주는 것임과 동시에, 사람의 안위를 위협하는 요인이 될 수 있는, 양가적 측면을 가졌습니다. 오늘날 우리 사회에서는 딥페이크에 대한 논의가 활발해지고 있죠. 딥페이크에 대한 논의가 활발해질수록, 우리는 그러한 양가성을 잘 다스릴 수 있을 것입니다.
실제로 찬반이 격렬히 나뉘다가 법적 규제와 플랫폼 관리, 기술적 대응 및 대중 인식 제고 등의 노력을 통해 우리가 일상에서 쓰게 된 기술들도 어느정도 흔하게 있습니다.
