오세훈 "딥페이크 삭제 주체 국가서 지자체로 확대 강력 촉구"(종합)

by양희동 기자
2024.09.03 10:52:39

[이데일리 양희동 기자] 오세훈 서울시장이 3일 오전 9시30분 국회의원회관(제8간담회의실)에서 개최되는 ‘딥페이크 디지털성범죄 예방과 대응책 마련을 위한 정책 토론회’에 참석했다. 이번 토론회는 국회의원 조은희 의원실과 한국여성인권진흥원이 주최하고, 이수정 교수, 경찰청, 서울시, 서울시교육청 등이 발제자로 나섰다.

오세훈 시장이 3일 오전 국회 의원회관 제8간담회의실에서 열린 ‘딥페이크 디지털성범죄 예방과 대응책 마련을 위한 정책토론회’에 참석해 발언하고 있다. (사진=서울시)

오세훈 시장은 이날 토론회에서 “딥페이크 영상은 누구나 피해자가 될 수 있고 또 정확한 피해 규모를 추산하는 것 조차 어렵다”며 “서울시는 최대한 서둘러 단 한 명의 피해자라도 더 도울 수 있도록 하고 피해자가 무거운 짐을 홀로 감당하지 않도록 함께 하겠다”고 말했다. 이어 “최근 인공지능(AI)으로 특정 인물의 얼굴에 음란물을 합성한 딥페이크 영상이 중·고등학교, 대학가, 군대 등을 중심으로 무분별하게 유포되면서 불안감을 느끼는 분들이 많다”며 “딥페이크 영상은 제작까지 단 ‘7초’ 밖에 걸리지 않고, 제작부터 유포까지 너무나 쉽게 가담할 수 있는 구조 때문에 누구나 피해자가 될 수 있다는 점에서 이전의 디지털 성범죄와는 다른 양상을 보이는 것이 특징”이라고 설명했다.

서울시는 이같은 디지털 성범죄의 심각성을 선제적으로 인지하고 지난 2022년부터 ‘서울 디지털성범죄 안심지원센터’를 개관, 영상 삭제 지원부터 피해자 지원까지 원스톱서비스를 제공하고 있다. 이를 통해 1437명 대상, 총 3만 9764건을 지원하고 있다. 시는 딥페이크 피해에 대응하기 위해 지자체 최초로 방송통신심의위원회와 협력해 피해 영상물을 24시간 내 삭제 지원하는 핫라인 시스템을 가동 중이다. 또 ‘디지털 성범죄 SOS 상담창구’를 신설해 개설한 지 이틀 만에 딥페이크 피해자 15명의 상담을 하고 있다.



서울시는 진화하는 딥페이크 기술에 대응하기 위해 피해자 얼굴 사진과 유사도·정확도가 높은 영상을 검출하는 AI 얼굴매칭 딥페이크 검출기술인 ‘서울 안심 아이’를 내년 상반기까지 개발할 계획이다. 아울러 검색부터 신고까지 전 과정을 AI가 자동 실시하는 ‘AI 신고자동화 시스템’도 연내 구축할 계획이다.

서울시는 딥페이크 디지털성범죄의 예방이 가장 중요하다고 보고 이번 달부터 초·중·고교 50개 학급 1000명을 대상으로 딥페이크 예방교육을 운영한다. 또 재발 방지를 위해 가해자 상담·교육도 함께 추진한다.

오 시장은 “딥페이크 성범죄는 이전과는 다른 범죄 양상인 만큼 사회 전반의 많은 노력이 필요하다”며 “서울시에서도 딥페이크 피해 영상물을 삭제 지원 할 수 있는 제도적 장치가 필요한 만큼, 삭제 지원의 주체를 국가에서 지자체로 확대하는 법령 개정을 강력히 촉구한다”고 말했다.