일반인도 5분 만에 `뚝딱`…선거판 위협하는 딥페이크

by이유림 기자
2024.02.25 13:40:27

[이데일리 이유림 기자] 오는 4월 10일 제22대 국회의원 선거를 앞두고 ‘딥페이크’(deepfake·실제와 비슷하게 조작된 디지털 시각물) 콘텐츠가 선거를 교란하는 위협 요인으로 등장했다.

23일 서울 양천구 방송통신심의위원회에서 열린 제14차 통신심의소위원회 회의에서 한 위원이 윤석열 대통령 딥페이크 영상 자료를 살펴보고 있다.(사진=뉴스1)

지난 23일 방송통신심의위원회(방심위)는 윤석열 대통령이 등장하는 ‘가짜 영상’이 사회관계망서비스(SNS)를 통해 확산하자 접속 차단 조치를 결정했다. ‘윤석열 대통령 양심고백 연설’이라는 제목의 영상에는 윤 대통령이 등장해 “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다. 저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”고 말한다. 이 영상은 2022년 2월 윤 대통령이 대선후보였던 시절 진행한 TV 연설 장면을 짜깁기해 만든 것으로 파악됐다.

‘가짜’ 윤 대통령 영상이 딥페이크는 아닌 것으로 확인됐지만, 방심위는 향후 이와 유사한 딥페이크 허위 영상이 유포될 경우 이번과 같은 규정을 적용해 긴급 차단 조치를 한다는 방침이다.



딥페이크 콘텐츠는 기술이 급격하게 향상되면서 실제와 구분이 어려울 정도로 정교해지고 있다. 총선을 앞두고 SNS상 딥페이크 가짜뉴스가 늘어나면 중앙선거관리위원회(선관위)의 현재 인력으로 신속 대응이 어려워지는 것 아니냐는 우려도 나온다. 현재 선관위 전담팀 인력은 모니터링반, 인공지능(AI) 감별반, 분석·삭제반, 조사·조치반, 검토 자문단을 포함해 72명이다. 3단계에 걸친 딥페이크 선별 작업은 오래 걸리기 때문에 그사이 선거판을 흔들 개연성이 있다.

문제는 딥페이크 콘텐츠에 대한 일반인의 접근이 쉽다는 점이다. 이는 누구든 손쉽게 제작할 수 있어 무차별 생성·유포 가능성도 있다. 실제 구글·애플 앱스토어에서 ‘딥페이크’라고 치면 수십 개의 애플리케이션(앱)이 나오는데, 이 어플에 가입해 1만원 이하의 소액만 결제하면 사진은 1~2분, 영상은 5분 만에 완성된다. 최소한의 예방장치가 될 수 있는 ‘워터마크’(불법 복제를 막기 위해 삽입하는 표식)가 없는 경우가 허다하다.

빠른 기술 발전과 이에 대한 부작용에 대해 전문가들은 이용자들의 의식 변화에 기댈 수밖에 없다고 했다. 딥페이크 오용이 분명한 문제가 될 수 있다는 시민 의식이 심어져야 한다는 것이다. 김덕진 IT커뮤니케이션 연구소 소장은 “(딥페이크 문제의 해결책은) 냉정하게 말씀드리면 사용자의 자율 권한을 맡기는 수밖에 없다”며 “딥페이크 발전 속도에 비해 필터링 기술이 완벽하지 못하다”고 했다.