오세훈 "딥페이크 삭제 '국가→지자체' 확대 법령 개정 강력 촉구"

by양희동 기자
2024.09.03 08:42:19

[이데일리 양희동 기자] 오세훈() 서울시장이 3일 오전 9시30분 국회의원회관(제8간담회의실)에서 개최되는 ‘딥페이크 디지털성범죄 예방과 대응책 마련을 위한 정책 토론회’에 참석한다. 이번 토론회는 국회의원 조은희 의원실과 한국여성인권진흥원이 주최하고, 이수정 교수, 경찰청, 서울시, 서울시교육청 등이 발제자로 나선다.

오세훈 시장은 이날 토론회에 참석해 “딥페이크 영상은 누구나 피해자가 될 수 있고 또 정확한 피해 규모를 추산하는 것 조차 어렵다”며 “서울시는 최대한 서둘러 단 한 명의 피해자라도 더 도울 수 있도록 하고 피해자가 무거운 짐을 홀로 감당하지 않도록 함께 하겠다”고 말한다.

서울시는 디지털 성범죄의 심각성을 선제적으로 인지하고 지난 2022년부터 ‘서울 디지털성범죄 안심지원센터’를 개관, 영상 삭제 지원부터 피해자 지원까지 원스톱서비스를 제공하고 있다. 이를 통해 1437명 대상, 총 3만 9764건을 지원하고 있다.



서울시는 딥페이크 피해에 대응하기 위해 지자체 최초로 방송통신심의위원회와 협력해 피해 영상물을 24시간 내 삭제 지원하는 핫라인 시스템을 가동 중이다. 또 ‘디지털 성범죄 SOS 상담창구’를 신설해 개설한 지 이틀 만에 딥페이크 피해자 15명의 상담을 하고 있다. 여기에 진화하는 딥페이크 기술에 대응하기 위해 피해자 얼굴 사진과 유사도·정확도가 높은 영상을 검출하는 AI 얼굴매칭 딥페이크 검출기술인 ‘서울 안심 아이’를 내년 상반기까지 개발할 계획이다. 아울러 검색부터 신고까지 전 과정을 AI가 자동 실시하는 ‘AI 신고자동화 시스템’도 연내 구축할 계획이다.

서울시는 딥페이크 디지털성범죄의 예방이 가장 중요하다고 보고 이번 달부터 초·중·고교 50개 학급 1000명을 대상으로 딥페이크 예방교육을 운영한다. 또 재발 방지를 위해 가해자 상담·교육도 함께 추진한다.

오 시장은 신속한 피해자 지원을 위해 딥페이크 피해 영상물을 삭제 지원할 수 있는 제도적 장치가 필요한 만큼, 삭제 지원의 주체를 국가에서 지자체로 확대하는 법령 개정을 강력히 촉구할 예정이다.