서울시, 전국 최초 '디지털성범죄' 24시간 AI 자동 추적·감시

by양희동 기자
2023.03.29 14:20:00

[이데일리 양희동 기자] . 평소 연예인이 꿈이었던 A(23)씨는 지난해 3월 사회관계망서비스(SNS)에서 DM(다이렉트메시지)으로 드라마 출연 제의를 받았다. A씨는 테스트가 필요하다는 기획사 관계자의 말에 옷을 모두 벗은 상태로 촬영을 하게 됐고, 그 과정에서 물리적 성폭력이 발생했다. 또 드라마 출연을 빌미로 금전적 피해도 입었다.

A씨는 가해자의 보복에 대한 두려움에 신고를 못하고 있다가 지인들로부터 SNS에서 A씨로 추정되는 사진을 봤다는 연락을 받았다. 이에 A씨는 ‘서울시 디지털성범죄 안심지원센터’에 도움을 요청했고, 센터는 불법성인사이트 5곳과 SNS 12곳에 피해 촬영물이 올라온 정황을 포착했다. 센터는 신속하게 피해 촬영물 삭제를 요청했으며 현재도 지속적으로 모니터링 하고 있다. 최근엔 가해자가 특정돼 수사도 활발히 진행 중이다. 사건 직후 극심한 불안감으로 직장까지 그만둔 A씨는 센터의 긴급 의료지원과 심리상담을 병행하며, 취업 지원으로 일상 회복을 준비하고 있다.

(자료=서울시)

서울시가 ‘서울 디지털성범죄 안심지원센터(센터)’ 개관 1년을 맞아 전국 최초로 인공지능(AI) 기술을 도입, 24시간 디지털성범죄 자동 추적·감시에 나선다고 29일 밝혔다. 센터는 오세훈 서울시장의 시정 마스터플랜인 ‘서울비전 2030’의 하나로 지난해 3월 29일 개관했다. 제2의 ‘n번방’ 피해를 막는다는 목표로 영상물 삭제부터 법률지원, 심리·치유까지 디지털성범죄 피해자를 원스톱 통합지원하고 있다.

센터가 도입한 AI 기술은 24시간 실시간 모니터링을 통해 피해자와 관련된 각종 SNS 상 피해 영상물을 자동으로 검출, 보다 빠르게 영상물을 삭제하고 재유포를 막는다. 기존에는 피해자의 얼굴이나 특이점을 육안으로 판독해 1~2시간에 걸쳐 수작업으로 찾아냈지만, 앞으로는 AI 딥러닝 기술이 오디오, 비디오, 텍스트 정보를 종합 분석해 클릭 한번으로 모든 피해 영상물을 즉시 찾아낸다.

서울기술연구원은 지난해 7월 프로그램 개발에 착수, 이달 개발을 완료했다. 키워드 입력부터 영상물 검출까지 불과 3분 정도밖에 걸리지 않고, 정확도는 200% 이상 향상됐다. AI의 학습 데이터가 축적될수록 정확도와 속도는 더욱 향상될 전망이다.



서울시는 AI 기술 도입과 함께 올해는 아동·청소년 피해 예방에 주력할 계획이다. 최근 아동·청소년을 대상으로 한 디지털성범죄 피해건수가 지속적으로 증가하고 있다. 특히 피해자나 가족의 신고없이 온라인 상에 유포되는 피해 영상물이 많다.

본인이 직접 삭제를 요청해야 삭제지원이 가능한 성인과는 달리, 아동·청소년은 ‘아동·청소년의 성보호에 관한 법률’ 등에 따라 당사자나 부모의 신고 없이도 즉시 삭제가 가능하다. 이에 센터는 AI 추적·감시를 통해 디지털성범죄 피해 예방에 선제적으로 나설 방침이다.

센터는 긴급상담부터 수사·법률지원, 삭제지원, 심리치료·의료 지원 등 원스톱 지원을 통해 지난 1년 간 402명의 피해자를 지원했다. 총 지원 건수는 7682건이며 피해자 연령대는 10~20대(57%)가 가장 높은 비율을 차지했다. 이 중 10대 비율은 16.6%에 이른다. 피해유형별로는 △유포불안(23.1%) △불법촬영(20.1%) △유포·재유포(14.5%) 순이었다. 센터는 피해 영상물 총 3003건을 삭제했고, 이중 1608건(54%)이 아동·청소년 성착취물이었다.

오세훈 시장은 이날 오후 2시 20분 동작구 서울여성가족재단 내 센터에서 개관 1주년 기념식을 갖고 “갈수록 진화하는 디지털성범죄로부터 시민을 보호하기 위한 지원을 강화해 나가겠다”고 강조했다. 오 시장은 기념식 직후 이수정 경기대 교수 등 관련 전문가와 학부모, 안심서포터즈 대표 등과 간담회도 가졌다.

(자료=서울시)