'삭제 또 삭제' 불법 딥페이크 복제…1명이 하루 50건 처리

by최오현 기자
2024.09.13 05:40:00

[이데일리 최오현 기자] 딥페이크 불법 음란물 문제가 우리 사회를 강타한 가운데 온라인상 유포된 불법 콘텐츠를 삭제하는 전문인력 자원이 부족하단 지적이 나오고 있다. 합성물을 사이트에서 삭제하더라도 피해자에겐 언제, 어떤 사이트에서 또다시 복제물이 불쑥 튀어나올지 모른다는 공포감이 도사리고 있다. 그러나 인력과 관련 입법 미비로 불법 음란물 대응이 ‘협조 요청’으로 끝나는 경우도 비일비재한 것으로 나타났다.

(그래픽=김정훈 기자)

11일 디지털성범죄피해자지원센터에 따르면 올해 6월 기준 불법 콘텐츠 삭제지원 건수는 16만5365건에 달한다. 2018년 개소 후 지원 피해자 수와 삭제 건수는 꾸준히 증가하고 있다. 최근 3년간 추이를 보면 △2021년 피해자 6952명·삭제 건수 16만9820건 △2022년 피해자 7979명·삭제 건수 21만3602건 △2023년 피해자 8983명·삭제 건수 24만5416건 등이다. 여기에는 딥페이크 콘텐츠 뿐만 아니라 실제 촬영물 등도 포함된다. 올해 상반기까지 피해자는 이미 7425명으로 집계됐다. 연말까지 피해자와 삭제 건수는 지난해를 뛰어넘을 것으로 보인다.

국내 합성 콘텐츠를 모니터링해 삭제하는 공적기관은 방송통신심의위원회와 한국여성정책진흥원 내 디지털성범죄피해자지원센터(디성센터) 정도에 불과하다. 매년 삭제 요청이 급증하는데 인력은 턱없이 부족하단 의견이 제기된다. 디성센터 내 인력은 2020년 67명에서 2021년 39명으로 급감한 뒤 4년째 충원되지 않은 채 유지 중이다. 이 중에서도 삭제지원만을 전담하는 팀은 15명에 불과하다. 15명이 연간 대략 20만건에 이르는 콘텐츠를 삭제하고 있는 셈이다. 산술적으로는 근무일 기준으로 매일 1명당 50건의 영상을 추적하는 것이다. 이조차도 대부분 비정규직 근로자가 담당하고 있다. 이 때문에 업무가 어느 정도 숙달될만하면 다시 새로운 인력으로 대체되는 상황에 놓이기도 한다.

해외에 기반을 둔 플랫폼에서 범행이 이뤄지는 경우 협조나 공조 시스템에 의존할 수밖에 없는 한계점도 있다. 특히 해외 서버의 경우 삭제 요청에 무대응으로 일관하는 일이 많아 삭제에 애를 먹고 있다. 이 경우 해당 국가에서 같은 지원을 하는 단체와 공조하거나 수사를 요청하는 것 외엔 방법이 묘연하다. 불법 콘텐츠 삭제를 지원해달라는 공문을 보낼 때조차 현행법상 디성센터의 설치·운영에 관한 근거법이 없어 어려움이 있다. 해외 플랫폼과 공조를 강화하는 동시에 입법 등을 통해 독자적인 대안을 마련하는 등 ‘투 트랙’ 대응이 요구되는 이유다.

디지털성범죄피해자지원센터 사무실 전경 (사진=디지털성범죄피해자지원센터 제공)

민고은 한국여성변호사회 인권이사는 수사와 관련해 “해외에 본사를 두고 있는 인터넷 서비스 제공자가 한국에 인터넷 서비스를 제공하려면 수사협조를 하도록 하는 의무규정이 필요하다”며 “정당한 사유 없이 협조하지 않을 경우 과징금 부과 및 서비스 제공 제한을 가하는 관련 법률 입법이 필요하다”고 지적했다.

국내 사이트에 대한 규제 강화 필요성도 제기된다. 디성센터 관계자는 “불법합성물을 공유하는 텔레그램 대화방 링크 정보가 비교적 접근이 쉬운 소셜미디어, 커뮤니티에 공유되고 있으나 일부 플랫폼은 피해영상물을 직접 게시하고 있지 않아 현행법상 조치 의무 대상이 아니란 입장을 취하고 있다”며 관련 입법이 필요하다고 했다.

법적 대응만으로는 딥페이크 성범죄의 근본적인 문제를 해결하기 어렵다는 지적도 나온다. 천정아 법무법인 소헌 변호사는 “딥페이크 성범죄의 핵심은 여성을 성적 대상으로 삼는 잘못된 인식과 문화”라며 공교육 내 인성 교육과 인권 교육을 강화해 디지털 성범죄를 예방해야 한다고 강조했다. 이러한 교육은 청소년들에게 올바른 디지털 윤리 의식을 심어주고 성적 대상화가 범죄로 이어질 수 있음을 깨닫게 하는 중요한 역할을 할 수 있다.

한국여성변호사회 부회장을 맡고 있는 김현아 변호사 역시 “학생, 학부모, 학교를 대상으로 한 예방 교육과 홍보가 시급하다”며 딥페이크 범죄가 청소년들 사이에서 장난처럼 여겨지는 현실을 지적했다. 그는 교육을 통해 사회 전반의 인식을 개선하고 디지털 성범죄에 대한 경각심을 높이는 것이 무엇보다 중요하다고 짚었다.