X

딥페이크 심각한데 영상 삭제·가해자 처벌은 왜 더딜까?

성주원 기자I 2024.09.17 09:00:00

올해 딥페이크 범죄 297건…피해자 95% 학생
피해 영상 삭제, 인력 부족·해외 서버로 어려움
가해자 74% 10대…40%는 집행유예로 풀려나
디지털윤리교육 필수…긴급대응시스템 시급

[이데일리 성주원 기자] 당신의 얼굴이 동의 없이 음란물에 합성돼 전 세계로 퍼진다면 어떨까요? 낯선 사람들에게 내 얼굴이 수천번, 수만번 공유되며 명예가 짓밟히는 그 충격과 공포는 상상조차 어렵습니다. 그런데 딥페이크 기술이 발전하면서 이런 끔찍한 일이 실제로 벌어지고 있습니다. 딥페이크 피해자는 엄청난 고통을 겪고 있지만, 피해 영상을 삭제하거나 가해자를 처벌하는 과정은 답답할 정도로 느립니다. 도대체 왜 그럴까요?

지난 6일 서울 종로구 보신각 앞에서 여성·인권·시민단체 회원들이 텔레그램 딥페이크 성폭력 대응 긴급 집회를 하고 있다. (사진=뉴시스)
◇딥페이크 범죄, 얼마나 심각한가

딥페이크 범죄로 인해 피해자 개인의 명예와 사생활이 심각하게 침해받고 있습니다. 최근 경찰청 자료에 따르면, 올해 1월부터 7월까지 무려 297건의 딥페이크 성범죄가 발생했는데, 이는 작년 전체 건수인 180건을 훨씬 넘어선 수치입니다. 이 중 피해자의 95% 이상이 학생이라는 충격적인 통계도 나왔습니다. 우리의 자녀들, 동생들이 이 심각한 범죄에 노출돼 있는 셈입니다.

◇피해 영상 삭제는 왜 이렇게 어려울까

피해자들은 당연히 가장 먼저 자신과 관련된 영상을 삭제하고 싶어 합니다. 하지만 이 과정이 생각보다 훨씬 복잡하고 열악합니다.

현재 불법 딥페이크 영상 삭제를 담당하는 디지털성범죄피해자지원센터의 인력이 매우 부족합니다. 불법 영상 삭제를 전담하는 인력은 15명에 불과한데, 이들이 연간 20만건이 넘는 영상을 삭제하고 있습니다. 한 사람이 하루에 50건 이상을 처리해야 하는 상황입니다. 이렇다 보니 영상 삭제 처리 속도가 더디고, 그 사이에도 피해 확산이 진행될 수 있습니다.

또한 딥페이크 영상이 올라가는 서버가 해외에 있는 경우가 많습니다. 한국 내에서 삭제 명령을 내려도, 해외에 있는 플랫폼이나 사이트는 협조하지 않는 경우가 많고, 이로 인해 삭제 절차가 훨씬 복잡해집니다. 특히 인터넷에 한번 퍼진 영상은 다시 복제돼 올라오기가 쉽기 때문에, 삭제된 영상이 재차 유포되는 경우도 다반사라고 합니다.

그래픽= 이데일리 김정훈 기자
◇가해자 처벌은 왜 이렇게 느린 걸까

딥페이크 성범죄 가해자를 처벌하는 일도 마찬가지로 어려움이 많습니다. 딥페이크 범죄로 검거된 가해자의 약 73.6%가 10대 청소년입니다. 청소년들은 법적으로 성인보다 가벼운 처벌을 받거나 아예 형사처벌 대상이 아니기도 합니다. 성인들도 초범일 경우 집행유예나 벌금형에 그치는 경우가 많습니다. 실제로 김남희 의원실 조사에 따르면, 딥페이크 성범죄로 기소된 87명 중 40%가 집행유예를 받았고, 16%는 벌금형을 받았을 뿐입니다.

이처럼 가벼운 처벌은 딥페이크 성범죄의 심각성을 반영하지 못하고 있으며, 범죄 예방 효과도 기대하기 어렵습니다. 게다가 인터넷의 익명성 때문에 가해자를 특정하고 증거를 확보하는 데에도 시간이 많이 걸립니다. 기술이 발전함에 따라 가해자 추적이 점점 더 어려워지고 있어, 가해자 처벌 과정이 지연되는 것도 현실입니다.

◇어떤 해결책이 필요할까

이 문제를 해결하기 위해서는 몇 가지 중요한 변화가 필요합니다. 먼저, 영상 삭제 절차의 간소화가 시급합니다. 피해자가 영상을 신고하면 즉각적으로 삭제할 수 있는 긴급 삭제 시스템을 마련해야 합니다. 수사 기관에 긴급 삭제 권한을 부여해, 피해 확산을 최소화하는 것이 필요합니다.

또한, 국제 공조를 통해 해외 서버에서 유포되는 영상에 대한 삭제 요청이 신속히 이뤄져야 합니다. 국내 법으로는 해외 사이트에 강제력을 행사하기 어려우므로, 국제 협력 체계를 통한 신속한 대응이 필요합니다.

디지털성범죄피해자지원센터 사무실 전경 (사진=디지털성범죄피해자지원센터 제공)
가해자에 대한 처벌도 강화될 필요가 있습니다. 현재 딥페이크 범죄는 초범이거나 미성년자라는 이유로 처벌이 경미하게 이뤄지고 있습니다. 더 강력한 처벌이 이뤄져야 하며, 영상을 제작하거나 배포하는 사람뿐만 아니라, 이를 시청하거나 소지한 사람도 처벌 대상이 돼야 합니다.

마지막으로, 청소년들을 대상으로 한 교육이 필수적입니다. 딥페이크 성범죄의 대부분은 10대 청소년이 가해자인 경우가 많습니다. 이들이 딥페이크를 단순한 장난이나 놀이로 여기는 현실을 바꾸기 위해, 학교에서 디지털 윤리 교육을 강화해야 합니다. 청소년들이 딥페이크 범죄의 심각성을 인식하고, 이를 예방할 수 있는 방법을 배워야 합니다.

◇딥페이크 범죄는 우리 모두의 문제

딥페이크 성범죄는 단순히 기술의 악용을 넘어, 사람들의 삶에 깊은 상처를 남기는 심각한 범죄입니다. 나 자신뿐만 아니라 내 가족과 친구들도 피해자가 될 수 있다는 점을 잊지 말아야 합니다. 이 문제를 해결하기 위해서는 정부와 기업, 사회가 함께 힘을 모아야 합니다. 딥페이크 성범죄의 심각성을 인식하고, 빠른 대응과 예방책을 마련하는 것은 더 이상 미룰 수 없는 과제입니다. 이 문제에 대해 관심을 갖고, 딥페이크 범죄가 근절될 수 있도록 함께 노력해야 할 때입니다.

정의당 딥페이크 성범죄 대응본부 및 교육시민단체 회원들이 지난 12일 오후 서울시교육청 앞에서 ‘딥페이크 성범죄, 교육 당국 강력 대처 촉구 기자회견’을 하고 있다. (사진=연합뉴스)


딥페이크 공포 확산

- 딥페이크 여파에 촉법소년 연령하향 '급물살' - 檢, '딥페이크 영상 1300여개 제작' 20대 男 구속기소 - "AI 딥페이크가 안면인식기 속일 수도…보안사고 대비해야"

주요 뉴스

ⓒ종합 경제정보 미디어 이데일리 - 상업적 무단전재 & 재배포 금지