선관위, '낙선 목적 AI 딥페이크 영상' 제작·유포 유튜버 고발

[이데일리 조용석 기자] 중앙선거관리위원회는 6·3지방선거 후보자 낙선을 목적으로 인공지능(AI) 딥페이크 영상을 만들어 유포한 유튜버를 공직선거법 혐의로 고발했다고 1일 밝혔다.

고발된 유튜버 A씨는 4월부터 5월 중순까지 시·도지사 및 국회의원선거 후보자 6명에 대한 허위사실·비방을 내용으로 하는 악의적인 딥페이크 영상을 AI로 제작해 자신의 유튜브 및 SNS에 수차례 게시했다고 선관위는 설명했다.

해당 영상은 거리 유세 중인 후보자에게 시민들이 욕설을 퍼붓고 일방적으로 모욕하는 상황을 악의적으로 창작한 것이다. 선관위에 따르면 A씨는 선관위가 지속적인 삭제요청을 했음에도 불응했다.

공직선거법 제82조의8 제1항은 선거일 90일 전부터 선거일까지 선거운동을 위해 AI로 딥페이크 영상 등을 제작·편집·유포·상영·게시하는 행위를 금지하고 있다. 위반 시 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형으로 처벌 받는다.

지난 3월 정부서울청사에서 열린 AI 딥페이크 탐지 분석 모델 시연회에서 박남인 국립과학수사연구원 연구관이 선거유세 현장 가짜뉴스 탐지기술을 시연하고 있다.(사진 = 연합뉴스)