최근 중국 애플리케이션(이하 앱) ‘TikTok’에서 한국 가수 아이유와 비슷한 외모로 유명해진 ‘차이유’가 딥페이크(Deepfake)를 사용했다는 의혹이 제기돼 논란이 됐다. 이에 무분별한 유명인 복제에 대한 우려와 더불어 지속적으로 제기됐던 딥페이크 악용을 막아야 한다는 목소리가 더욱 커지고 있다.

  딥페이크란, 딥 러닝(Deep learning)과 페이크(Fake)의 합성어로 인공지능을 기반으로 한 이미지 합성 기술이다. 딥페이크 제작자는 특정 인물의 얼굴 또는 신체 부위의 이미지를 서로 다른 영상 및 사진에 합성해 새로운 편집물로 제작할 수 있다.

  이러한 딥페이크는 영화 및 방송 등 다양한 분야에서 활용돼 오고 있다. 영화 ‘제미니 맨(Gemini Man)’에서는 배우 윌 스미스의 1인 2역을 구현하기 위해 딥페이크 기술이 사용됐다. 또한 지난해 TV 프로그램 ‘AI 음악 프로젝트-다시 한 번’에서 딥페이크 기술을 활용해 수년 전 사망한 가수 故 터틀맨(임성훈)과 故 김현식을 재현해내기도 했다.

  이러한 딥페이크는 계속해서 성장하는 추세다. 영국 민간 정보업체 ‘Sensity’가 발표한 자료에 따르면, 인터넷 내의 딥페이크 영상 수는 2019년 7월 14,678개에서 2020년 6월 49,081개로 약 1년간 330%가량 증가했다.

  이에 대한 배경으로 딥페이크의 제작이 용이하다는 점이 지목된다. 현재 딥페이크 제작 관련 사이트들이 다수 존재하며, 딥페이크 앱 및 프로그램이 다양하게 개발되어 쉽게 다운받을 수 있는 등 접근성이 높은 실정이다.

  그러나 딥페이크의 성장과 함께 이에 대한 부작용도 발생하고 있다. 딥페이크로 인한 음란물과 가짜 뉴스가 대표적인 부작용이다. 지난 2019년 네덜란드의 사이버 보안 연구 회사 ‘DeepTrace’가 발간한 보고서에 따르면, 지난 2018년 딥페이크로 확인된 영상 중 96%가 음란물임이 확인됐다. 또한 딥페이크로 인한 가짜 뉴스 사례로 지난 2019년 이탈리아 전 총리 마테오 렌치가 타 정치인을 모욕하는 합성 영상이 올라와 사회적 파장을 일으켰다. 이에 메릴랜드대학교 대니얼 시트론 교수는 “딥페이크의 유통으로 인해 민주주의의 초석인 진실이 공격받을 수 있다”며 경고하기도 했다.

  이에 불법 딥페이크에 대한 강력한 법적 처벌을 요구하는 목소리가 높아지고 있으며, 현재 법안으로는 실질적인 문제 해결이 어렵다는 의견도 제기된다. 불법 딥페이크 처벌 관련 법안에 명시된 처벌 대상은 불법 딥페이크 영상의 제작자와 유포자로 한정하고 있다. 이에 따라 영상 구매자 및 소지자들을 처벌할 수 없어 현행법안이 미비하다는 지적이 인다. 실제 딥페이크 음란물을 제작하 고 유포한 이들은 지난해 6월 개정된 ‘성폭력범죄의 처벌 등에 관한 특례법’에 따라 ‘5년 이하의 징역 또는 5천만 원 이하의 벌금’ 에 해당하는 처벌을 받을 수 있다. 그러나 법률사무소 율봄 진선우 변호사는 “현행법으로선 불법 딥페이크 제작자뿐만이 아닌 불법 딥페이크 구매자와 소지자까지 처벌하기 는 어렵다”고 지적했다.

  딥페이크로 생산된 가짜 뉴스에 대한 처벌 또한 어려운 상황이다. 불법 딥페이크 처벌에 대한 초점이 대부분 음란물에 맞춰져 있어 딥페이크 가짜 뉴스에 대한 처벌이 명시되지 않았기 때문이다. 이에 지난 2019년 10월, 국회입법조사처 김유향 팀장은 “참과 거짓을 구분하기 어려운 딥페이크 영상이 새로운 정치사회 문제로 떠오르고 있으나 국내의 법적, 정책적 대책 마련은 부재하다”고 발표한 바 있다.

  더불어 사후 법적 처벌뿐만이 아니라 불법 딥페이크를 사전에 방지할 수 있는 기술 또한 요구되고 있다. 이에 현재 다양한 기업과 연구기관에서 딥페이크 탐지 및 사전 차단을 위한 다양한 기술들이 개발되고 있다. 지난해 10월에는 스탠퍼드대학교가 영상 내의 딥페이크 여부를 81% 이상의 정확도로 감지할 수 있는 AI를 발표했으며, 페이스북은 ‘딥페이크 식별 챌린지’를 개최해 게시물에서의 딥페이크 사용을 제한 및 차단하는 등 딥페이크를 방지하기 위한 조치를 시행 중이다.

  그러나 딥페이크 기술도 계속해서 발전하고 있기에 탐지 기술만으로 딥페이크 유통을 완전하게 방지하는 것은 어려울 전망이다. 브루킹스 연구소 알렉스 엥글러 선임연구원은 “계속되는 AI 기술의 발전 이후 딥페이크는 현실과 구분할 수 없는 영상 및 이미지를 만들어낼 것”이라며 “이를 기술적으로 탐지하는 것은 어려울 것으로 보인다”고 말했다.