딥페이크 피해자 지원 미비…전문가들 "컨트롤 타워 필요"

by송승현 기자
2024.09.13 05:40:00

[이데일리 송승현 성주원 기자] ‘딥페이크’ 불법 성 착취물이 텔레그램 단체 대화방 등을 통해 대거 유포돼 피해자들이 늘고 있는 가운데 전문가들은 피해자 보호를 위해 딥페이크 영상 삭제 강제 등을 총괄할 컨트롤타워 구축이 시급하다는 의견을 냈다.

12일 더불어민주당 김남희 의원실에 따르면 경찰청이 딥페이크 탐지 및 불법촬영물 추적시스템을 통해 방송통신심의위원회(방심위)에 관련 영상 삭제를 요청한 건수는 지난해 1만5136건으로 전년 대비 94.6% 증가한 것으로 집계됐다. 딥페이크 관련 불법 영상이 본격적으로 문제가 된 올해의 건수는 지난해보다 크게 늘었을 것으로 예측된다.

지난 6일 저녁 서울 종로 보신각 앞에서 한국여성의전화 주최로 열린 텔레그램 딥페이크 성폭력 대응 긴급 집회에서 참가자들이 구호를 외치고 있다. (사진=연합뉴스)

‘딥페이크 불법 성 착취물’(딥페이크 영상)이 빠른 속도로 퍼지고 있는 건 외국계 플랫폼을 기반으로 광범위하게 유통되고 있기 때문이다. 최근 딥페이크 영상의 주된 유통 경로로 지목된 텔레그램이 대표적이다. 문제는 외국계 플랫폼 기업에는 딥페이크 영상 삭제 등에 협조할 의무가 없다는 점이다. 이에 따라 플랫폼에 대한 제재가 필요하다는 목소리가 제기되고 있다. 이수정 경기대 범죄심리학과 교수는 “딥페이크 등 불법촬영물을 근절하기 위해 과징금 부과나 서비스 운영 정지 등 플랫폼 기업을 제재할 수 있는 장치를 마련하고 이들에게 삭제 의무를 부여해야 한다”고 강조했다.

또 최근에는 플랫폼을 넘어 해외 P2P(개인간 거래)사이트, 불법·음란사이트 등으로 딥페이크 영상 유통이 옮겨가고 있다. 방심위의 주요 플랫폼별 성적 허위영상물 시정요구 현황에 따르면 방심위가 올해 1월부터 7월까지 해외 P2P사이트와 음란·도박사이트 등에 시정요구한 건수는 6434건으로 집계됐다. 이는 같은 기간 엑스(옛 트위터)와 텔레그램을 합한 수(205건)를 압도한다.

결국 딥페이크 영상으로 인한 피해자를 보호하기 위해선 곳곳에 암약하고 있는 영상 삭제가 시급하다. 하지만 현재로써는 플랫폼 또는 딥페이크 영상을 게시한 사이트에 영상 삭제를 강제할 수단이 없다. 현재 여성가족부 산하 한국여성인권진흥원의 디지털성범죄피해자지원센터가 피해자로부터 삭제를 요청받아 해당 플랫폼에 지울 것을 요청하고 있지만 강제할 권한이 없다는 한계가 있다.

반면 해외 주요국에서는 딥페이크 영상을 포함한 불법촬영물에 대한 기업의 책임이 의무화돼 있다. 먼저 영국은 온라인안전법을 통해 플랫폼 기업의 불법촬영물 감시·삭제 의무를 부여했다. 더 나아가 위반 시 형사 처벌할 수 있다. 독일은 네트워크집행법에서 유해 콘텐츠 관리 책임 강화, 불법 콘텐츠 24시간 내 삭제 의무화를 명시했다. 의무를 준수하지 않으면 최대 5000만유로(약 740억원)의 벌금을 부과한다.



컨트롤타워가 일원화돼 있지 않은 점도 혼란을 부추기는 요소라는 지적이 나온다. 딥페이크 영상 등에 대해선 디지털성범죄피해자지원센터와 마찬가지로 방송통신위원회가 방심위와 협력해 ‘허위 성적 영상물 유통을 방지하기 위한 삭제 및 차단업무’를 수행하고 있다. 하지만 방통위는 정책 수립의 주무 부처는 법무부로 피해자들을 위한 상담 심리센터 운영 등은 여가부와 대검찰청 소관이라며 책임을 떠넘기고 있다. 여가부 장관 자리는 반년 넘게 공석이다.

(그래픽=김정훈 기자)

딥페이크 기술대응 법제도 개선 방안 연구를 수행한 양진영 법무법인 민후 대표변호사는 “딥페이크 영상이 인공지능(AI) 기술에 따라 더 확산되고 있는 상황에서 AI를 관할하는 별도의 부처가 없어 컨트롤타워 부재 지적은 계속될 것”이다며 “딥페이크 관련 범죄가 증가하고 있어 시급한 불을 끄기 위해선 최고 수사기관인 대검찰청이 컨트롤타워를 담당하는 것이 적절하다고 생각한다”고 말했다.

컨트롤타워 부재로 딥페이크 등 불법촬영물 피해자에 대한 지원이 부족하다는 지적이 꾸준히 나오자 정치권에서도 입법에 나서고 있다.

국회 여성가족위원회(여가위)는 추석 연휴 직후 이른바 ‘딥페이크 방지법’(성폭력방지 및 피해자보호 등에 관한 법률 개정안) 심사에 나설 계획이다. 유력한 개정안으로는 정부안으로 상정된 국민의힘 이인선 의원의 개정안이 유력하게 꼽힌다. 이른바 ‘이인선 개정안’은 디지털 성범죄에 대한 국가의 책무를 강화하고 피해자에 대한 경제적 지원이 가능하게 하는 내용을 담고 있다.

아울러 디지털 성범죄 피해자 지원기관인 디지털성범죄피해자지원센터의 법적 근거를 명확히 해 국가적 대응을 강화하고 지방자치단체도 피해자 지원에 나설 수 있도록 명문화하는 내용도 포함됐다. 이밖에도 여가위는 소위를 통해 불법촬영물에 대한 접근 금지나 삭제 요청 권한을 경찰에도 부여할 것인지, 기존 기관과의 중복 문제를 어떻게 다룰 것인지도 논의하겠단 방침이다.

한편 서울시는 지난 10일 서울중앙지검, 서울경찰청, 서울시교육청 등과 손을 잡고 딥페이크를 통한 성범죄 예방과 대응을 위한 ‘원스톱 지원’에 나서기로 했다. 기존에는 서울 디지털성범죄 안심지원센터 피해지원관이 영상물을 검찰과 경찰한테 받아오는 방식이었다면 이번 협약으로 오는 2025년부터 구축할 시스템을 통해 시가 한꺼번에 영상을 확인하고 삭제 작업을 지원할 수 있게 됐다.