위키피디아와 MIT sloan에 따르면 ‘딥페이크’라는 용어는 2017년 말경 ‘deepfakes’라는 레딧 유저로부터 유래됐다고 한다. 필자가 기억하기로도 그쯤부터 해당 용어가 수면 위로 떠올랐던 것 같다. 당시에도 딥페이크를 통해 불법적으로 유명인이나 타인의 얼굴을 음란물에 합성하거나, 정치적 목적을 가진 가짜뉴스를 퍼뜨리는 행위가 문제됐다. 이에 대한 경각심을 주기 위해 버락 오바마 전 미국 대통령의 얼굴을 이용한 가짜 영상이 제작되기도 했다.

2024년 현재, 다른 사람들을 속일 목적으로 정교하게 제작된 딥페이크 영상은 전문가도 쉽게 구분할 수 없을 정도가 됐다. 생성형 AI 기술이 발전상용화됨에 따라 X에서 테일러 스위프트 얼굴을 악의적으로 합성한 음란물이 확산되는 등의 사건이 발생하기도 했다. 이미 해당 기술로 인한 피해 사례는 전 세계에서 속출하고 있고, 앞으로 그 피해 건수 및 정도는 더욱 커질 것이다.

그러나 세계의 국제기관이나 정부 기관들은 이제야 허겁지겁 발등에 떨어진 불을 끄는 듯한 대처를 보여주고 있다. 미국의 경우 작년에 들어서야 딥페이크를 포함한 AI 활용 방안 규제 행정명령을 처음 발표했고, 아직 연방정부 차원의 규제 법률은 마련되지 않았다. EU는 인공지능 생성물 표시 의무를 부과하는 법률을 제정한 것이 아닌 고작 ‘입법안’을 제시하고 있다. 우리나라는 거기에 한술 더 떠 중앙선거관리위원회에서 딥페이크 콘텐츠를 활용한 선거운동만을 겨우 금지한 상황이다. 학계와 사회에서 딥페이크로 인한 피해 우려가 커진 것이 2010년대 말이라는 점을 고려하면 아주 안일한 대처였다고 말할 수밖에 없다. 또한 딥페이크 탐지 기술이 개발되고 있다고는 하나, 가짜 콘텐츠의 발전 속도는 더욱 빠를 것이다. 미디어 사용자들의 디지털 리터러시를 길러 온라인상의 콘텐츠를 비판적으로 바라보는 능력을 기른다고 해도 의도적으로 제작된 가짜 영상을 구별해낼 수는 없을 것이다. 

가장 발 빠르게 대처할 수 있는 것은 정부나 입법기관이다. 이들이 악의적으로 제작된 인공지능 콘텐츠를 강력하게 규제해줘야 한다. 인공지능을 활용한 영상 수정 기술은 1990년대부터 연구되던 기술이다. 상용화된 것은 20년도 더 지난 시점에서다. 정부나 입법기관이 법을 제정하고 집행하는 데 걸리는 시간은, 딥페이크 기술 상용화까지 걸린 20년이라는 시간에 비하면 터무니없을 정도로 짧다. 이것이 기술 개발을 통한 대책 마련에 앞서 이들이 발 빠르게 움직여야 하는 이유다. 필요한 규제를 만들고, 새로운 기술 개발을 저해하는 낡은 규제를 수정할 의무가 있는 정부와 입법기관들의 우유부단한 태도는 이제 바뀌어야 한다. 급변하는 기술의 시대 속에서, 이들도 시대를 적절히 따라가는 모습을 보여줘야 할 것이다.