그래피카(Graphika)는 7일(현지시간) 논란의 여지가 있는 딥페이크 기술이 어디까지 왔는지를 밝히는 놀라운 보고서를 발표했다. 그래피카는 잘못된 정보를 전문으로 하는 연구 회사이다. 그들은 국가 차원에서 영향력을 행사하기 위해 전적으로 AI(인공지능)가 생성한 “뉴스”를 정치 선전에 이용한 아마도 첫 번째 사례를 자세히 설명했다.

울프 뉴스의 영상은 품질이 높지 않고 온라인에서의 영향력도 낮아 보인다. 하지만 가상 매체인 울프 뉴스의 AI TV 앵커들은 다가오는 국제 정상회담에서 중국의 지정학적 책임과 영향력을 칭찬했다. 뿐만 아니라 미국 정부가 작년에 미국에서 발생한 총기 폭력 사건들에 대한 대책을 갖고 있지 않다며 비판하고 그러한 여론을 조성하고자 했다.

뉴욕타임스가 같은 날 제공한 보충 보도에 따르면 울프 뉴스의 두 AI 앵커는 영국의 5년 된 스타트업 신시아가 제공하는 아바타 ‘제이슨’과 ‘안나’에서 왔다. 신시아는 고객들에게 월 30달러(한화 약 3만 8000원)에 딥페이크 소프트웨어를 제공한다. 딥페이크는 AI 기술을 활용해 기존 인물 사진이나 영상에 다른 인물을 합성하는 기술이다. 신시아는 현재 다양한 연령, 성별, 인종, 목소리 톤, 의복 등을 적용한 85개 이상의 캐릭터를 서비스하는데 이들은 실제 인간 배우를 모델로 만들어졌다. 이용약관에 동의하는 사람들은 신시아의 유료 이용자든 아니든 자신을 아바타로 만들 수 있다.

신시아의 제품은 주로 회사의 사내 교육 비디오와 같은 시간·비용 절약 솔루션을 위한 도구로 판매되고 이용된다. 회사 웹사이트에 게시된 광고에 따르면 아마존과 노보 노디스크가 신시아의 고객이었다. 뉴욕타임스가 강조한 정치 선전용 영상뿐만 아니라 신시아의 다른 샘플들도 품질이 높지 않다. 아바타는 거의 단조로운 톤으로 말하며 굳은 표정, 오디오 지연, 너무 느리게 깜빡이는 눈과 같은 비현실적인 움직임을 보인다.

일반적으로 이런 것들은 문제가 되지 않는다. 고개들은 종종 일상적인 프로젝트에 드는 비용이 훨씬 저렴하다는 이유로 이러한 부자연스러운 요소들을 기꺼이 받아들인다. 그럼에도 불구하고 그래피카의 전문가들은 기술이 빠르게 발전하고 있으며 곧 실제 영상과 구별하기 어려운 잘못된 정보가 제공될 수 있다고 경고한다.

신시아의 서비스 약관에는 “정치적, 성적, 개인적, 범죄적, 차별적 콘텐츠”를 생성하지 못하도록 금지하는 조항이 포함되어 있다. 이 회사에는 고객들이 딥페이크 콘텐츠 이용약관을 위반하였는지 감시하기 위한 4명으로 구성된 부서가 존재한다. 그러나 혐오 발언이나 노골적인 콘텐츠, 잘못된 정보나 정치 선전과 같은 미묘한 문제들을 찾아내는 것은 여전히 어려운 일이다. 빅터 리파벨리 신시아 공동창업자 겸 최고경영자(CEO)는 뉴욕타임에 “보안 실패에 대해 회사가 전적으로 책임을 지며 울프 뉴스를 만든 구독자는 회사 정책 위반으로 이용 금지 처분을 받았다.”라고 말했다.

비록 그래피카가 알린 디지털 선전은 온라인상에서 소수의 사람들에게만 전달된 것으로 보이지만 이 회사는 악의적인 사용자들이 자신들의 영향력 행사를 위해 아주 설득력 있는 영상과 이미지를 만드는 데 더 발전된 기술을 활용하는 것은 시간 문제라고 경고한다. 리파벨리는 지난해 11월 신시아 웹사이트에 게시된 글에서 각국 정부가 “합성 미디어”와 딥페이크 산업을 규제하기 위한 포괄적인 법률를 제정할 책임이 있다고 말했다. 

한편 한국에서는 딥페이크 범죄 중 많은 비중을 차지하는 성범죄 처벌에 관한 특례를 규정했다. 성폭력범죄의 처벌 등에 관한 특례법에 따르면 대상자의 의사에 반해 사람의 얼굴, 신체나 음성을 편집·합성·가공·복제한 촬영·영상물 등을 제작하거나 유포하면 7년 이하의 징역이나 5000만 원 이하의 벌금에 처한다. 벌금형 이상 확정 시 최소 10년 이상 성범죄자로 신상정보가 등록되고 관리를 받게 된다.

※이 기사는 popsci.com 원문을 바탕으로 작성됐으며, 번역은 파퓰러사이언스코리아 소속 기자가 도왔습니다. 

/글 ANDREW PAUL & 이가영 기자