|
서울시가 개발한 ‘디지털 성범죄 AI 삭제지원’ 기술은 인공지능(AI)이 24시간 실시간 모니터링을 통해 각종 불법사이트, 사회관계망서비스(SNS) 상의 피해 영상물을 자동으로 검출해 보다 빠르게 영상물을 삭제하고 재유포를 막는 기술이다.
이 기술의 핵심은 그동안 사람이 육안으로 일일이 찾아내서 신고하는 방식에 비해 처리시간은 3시간에서 단 6분으로 단축돼 처리속도가 30배나 빨라지고 정확도도 200~300% 개선된다는 점이다. 실제로 AI 기술 도입 이후 ‘서울 디지털 성범죄 안심지원센터’의 삭제지원 건수는 2022년 2509건에서 2025년 1만 5777건으로 4년 만에 6배 이상 증가했다. 아울러 AI 삭제지원 기술의 무상 보급으로 기관당 약 1억 8000만원의 예산 절감 효과가 있을 것으로 보고 있다.
AI 도입으로 딥페이크 영상물 탐지도 가능해졌다. 기존에는 피해자가 원본을 갖고 있어야 동일한 영상을 찾을 수 있었으나 AI는 원본이 없어도 비디오·오디오·텍스트 3종 분석으로 복제본까지 식별해 탐지한다. 또한 편집되거나 모자이크 처리된 변형본 영상도 신체·언어·움직임 패턴을 학습해 피해 영상을 식별해 탐지 사각지대를 크게 줄였다.
또한, 기존에는 ‘화장실에서 찍힌 불법촬영’ 사진 1개의 동일한 사진만 찾아낼 수 있었다면 AI는 안면·객체 인식으로 같은 얼굴, 옷을 입은 동일한 피해자의 다수 촬영물을 자동으로 묶어서 다량으로 탐지한다. 이를 통해 그동안 찾지 못했던 영상물을 신속하게 발견해서 빠른 삭제지원이 가능해졌다.
삭제 처리된 후 재업로드 된 영상도 재탐지가 가능하다. 최근 디지털 성범죄는 가해자가 금요일 밤에 영상물을 올리고 주말에 삭제하는 등 지능형 범죄로 진화하는데 AI를 통해 24시간 빠르게 재탐지할 수 있게 되었다.
시는 이번 AI 기술 무상보급을 특정 기관이나 일부 지역에 한정하지 않고 공익 목적에 한해 정부기관과 지자체 등에서 폭넓게 활용할 수 있도록 지원할 계획이다. 또한 국경을 넘어 유포되는 디지털성범죄의 특성을 고려해서 국내뿐 아니라 해외 비영리 기관과도 협력할 예정이다.
마채숙 서울시 여성가족실장은 “서울시가 개발한 ‘피해자 보호 기술’을 서울시의 것만이 아닌, 공공의 안전을 위한 공공재로 확장한다는 점에서 큰 의미가 있다”며 “디지털 성범죄 AI 삭제기술 무상보급을 통해 전국 어디서나 동일한 수준의 신속하고 실질적인 지원을 받을 수 있게 되기를 기대한다”고 말했다.
