AI 이미지 생성 프로그램으로 만든 가짜 트럼프 체포 사진 (엘리엇 히긴스 X)

넷플릭스 드라마 ‘살인자 ㅇ난감’을 보다가 제작진의 섭외력에 감탄했다. 손석구의 어린 시절을 연기한 아역 배우가 그와 똑닮았기 때문이었다. 차가운 눈빛에 장난기 가득한 입매, 할 말을 감추는 듯한 묘한 표정까지도 손석구를 빼다 박았다. 오죽하면 어린 손석구를 시간 소환술로 불러냈다는 평이 나왔을까. 그러나 복사해서 붙여넣기 한 듯한 아역배우에게는 비밀이 있었다. 소년 손석구는 성년 손석구의 어린 시절 사진들을 이용해 만든 딥페이크(인공지능 기반 이미지 합성 기술)로 탄생했다. 실제 연기를 펼친 아역배우의 얼굴에 그래픽으로 입혔다고 하니 몸짓도 표정도 사실적일 수밖에 없었다. 연기와 기술이 펼친 앙상블이 놀라웠다.

사실이 알려진 후 눈치 빠른 이들은 “어쩐지 CG티가 났다”고 했지만, 무감한 나는 알아채지 못했다. 그저 하나의 연기자로 받아들였다. 저 사람이 사람인지 의심해가며 영상을 볼 이유가 없었다. 어쨌든 진실을 알고 나자 두 가지 생각이 들었다. 딥페이크가 좋은 쪽으로 쓰이면 양질의 콘텐츠를 만들 수 있겠다,는 것과 악용되면 그 범위가 상당할 텐데 어떻게 막을까 하는 것이다.

안 좋은 쪽으로 이미 많은 사례가 있다. 주로 연예계에서 빈번했다. 로버트 다우니 주니어가 아닌 톰 크루즈가 등장하는 ‘아이언맨’이 대표적이다. 얼굴 하나 바꿨을 뿐인데 아이언맨이 전혀 다른 캐릭터로 보였고, 이 영상은 조회수 100만 회를 넘겼다. 이정도야 흥밋거리지만 가수 테일러 스위프트의 사례는 가혹하다. 지난 1월 그녀의 딥페이크 음란 이미지가 X(옛 트위터)에 나돌았는데, 공개된 지 만 하루도 되지 않아 조회수 4700만 회를 기록했다. 대중은 사실 여부를 따지지 않고 실제로 여겼다. 그럴 이유가 없었으니까. 곧장 영상의 진위가 밝혀졌지만 그 과정에서 피해자인 그녀는 곤욕을 치러야 했다. 가만히 있다가 봉변당한 것이다.

이제는 딥페이크가 정치계로도 번졌다. 오는 4월 총선을 앞두고 ‘가짜’들이 판치고 있다. 중앙선관위의 지난달 발표에 따르면 AI 딥페이크(가짜 동영상·목소리)를 이용한 불법 게시물 129건이 적발됐다. 19일간 감시한 결과다. 주로 상대 후보가 나오는 동영상을 조작한 것이라고 한다. 하지도 않은 말을 만들어 문제의 소지를 만들려는 의도로.

얼마 전엔 ‘윤석열 대통령 양심고백 영상’이 소셜미디어에서 확산됐다. “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”며 “저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”고 말하는 윤 대통령은 당연히 가짜. 역시 딥페이크였다.

올해 대선이 있는 미국도 마찬가지다. 지난 1월 미국 뉴햄프셔주 유권자들은 전화를 받았다. 건 쪽은 바이든 대통령. 대뜸 그가 투표하지 말라고 했다는 것이다. 물론 이 음성은 AI로 만든 가짜였다. 도널드 트럼프 전 대통령도 피해자였다. 그가 경찰들에 둘러싸여 체포되는 사진이 실제처럼 퍼졌기 때문이었다. 날조는 이렇게 진영을 가리지 않는다.

상황이 이렇다 보니 구글을 비롯한 글로벌 빅테크 기업 20곳이 연대하기도 했다. 힘을 합쳐 AI로 만든 가짜 콘텐츠 차단에 나선 것이다. 여러 협력 방안 중 가장 눈에 띄는 점은 딥페이크 콘텐츠라는 점을 알리는 것이다. 해당 영상이나 음성을 AI가 생성했다는 라벨을 붙이는 방식이다. 국내에서는 삼성전자가 ‘꼬리표 붙이기’에 적극적이다. AI폰인 신작 갤럭시 S24를 선보이면서 생성형 AI를 기반으로 창조된 모든 이미지에 워터마크가 달리게 한 것이다.

네이버는 오는 4월 10일 제22대 국회의원 선거를 앞두고 딥페이크 관련 검색어를 입력할 경우 딥페이크 기술 활용에 대한 주의를 당부하는 안내 문구가 제공된다고 공지했다. 딥페이크를 부적절하게 사용하거나 관련 정보를 찾고자 하는 의도가 포함된 검색어들이 대상이다. 검색 이용자가 정보를 소비하는 과정에서 딥페이크 기술의 악용 사례에 대해 경각심을 가질 수 있도록 지원하겠다는 것이다.

예컨대 딥페이크 사이트를 네이버에 검색할 경우 검색 결과 상단에 “딥페이크 기술 접근, 활용함에 있어 공직선거법, 성폭력처벌법 등 법령에 위반되거나 제3자의 권리를 침해하지 않도록 유의해 주세요”라는 안내 문구가 뜨는 식이다.

카카오는 앞서 카카오브레인의 이미지 생성형 모델인 ‘칼로’에 비가시성 워터마크를, 이미지 생성 애플리케이션인 ‘비 디스커버’에 가시성 워터마크를 도입한 바 있다.

딥페이크임을 알리는 표시가 원천 차단막이 되진 못하겠지만 출발점은 될 수 있다. 대중에게 의심의 안경을 씌우는 첫걸음. 지금 내가 듣고 보는 것이 가짜일 수 있다는 의심이 들게 만들어야 한다. 안타깝지만 눈과 귀를 의심해야 하는 시대로 접어들었기 때문이다. 앞으로 그 안경 너머에 내가 있지 않을 거란 보장은 없다.

(CNB뉴스=선명규 기자)​