'아동·청소년 性착취물' 찾아내려 전국 최초 ‘이것’ 도입한 서울시

[이데일리 양희동 기자] 서울시가 아동·청소년 성(性)착취물을 특정할 수 있는 인공지능(AI) 감시 기술을 전국 최초로 개발·도입해 24시간 자동 추적·감시에 나선다. 서울연구원은 지난해 3월부터 핵심기술 연구개발에 착수, 서울 디지털 성범죄 안심지원센터와 함께 다수의 아동·청소년 피해 영상물을 분석해 이달 프로그램 개발을 마쳤다. 이를 통해 온라인상의 불법 아동·청소년 성착취물을 선제적으로 찾아내 신속하게 삭제할 수 있을 전망이다.

아동·청소년 성범죄 SNS 대화 예시. (자료=서울시)

서울시는 서울연구원이 지난해 전국 최초로 AI 기술 도입을 통한 디지털 성범죄 자동 추적·감시 알고리즘을 개발, 시가 수행하는 24시간 불법 영상물 감시 및 신속 삭제를 위한 전반적인 기술지원을 수행하고 있다고 22일 밝혔다.

서울시는 아동·청소년의 경우 관련 법에 따라 당사자나 부모의 신고없이 피해 영상물 삭제가 가능해, AI를 통해 아동·청소년 성착취물을 빠르게 찾아내고 삭제해 피해에 신속 대응할 계획이다.

‘서울 디지털 성범죄 안심지원센터(서울여성가족재단 운영)’의 피해 요청 현황에 따르면 아동·청소년이 스스로 피해를 신고한 경우는 12명(7.8%)밖에 되지 않았다. 실제 센터의 삭제지원 사례를 살펴보면 센터에 삭제를 요청해 삭제지원한 건수는 425건으로 센터 삭제지원관이 피해자의 신고없이 삭제한 ‘선제적 삭제지원’ 2720건 중 15.6% 에 불과하다. 대부분의 아동·청소년 디지털 성범죄 피해 영상물은 신고가 이뤄지지 못하고 유포·재유포 되는 경우가 많은 것이다.

아동·청소년 디지털 성범죄 AI 감시 시스템은 AI 딥러닝 기반 안면인식 기술로 성인과 잘 구분되지 않는 아동·청소년의 성별과 나이를 판별할 수 있는 시스템이다. 특히 영상물에 ‘얼굴’이 나오지 않더라도 아동·청소년 피해 영상물 여부를 찾아낼 수 있다. AI가 피해 영상물에 자주 등장하는 책, 교복, 인형 등 주변 사물과 이미지 속 텍스트, 청소년들이 주로 사용하는 언어까지 함께 인식해 최종적으로 피해 영상물 여부를 판별한다.

서울시는 내년엔 검색뿐 아니라 AI 자동신고 시스템도 구축할 계획이다.

김선순 서울시 여성가족정책실장은 “우리 사회를 충격에 빠트린 ‘n번방’ 사건 이후 4년이 흘렀지만 여전히 아동·청소년을 대상으로 한 디지털 성범죄는 사라지지 않고 있고 그 피해도 심각하다”며 “서울시는 작년 전국 최초로 AI 삭제지원 기술을 도입한 데 이어, 아동·청소년 성착취 영상을 특정할 수 있는 기술을 통해 선제적인 감시·삭제에 나서 아동·청소년이 안전한 서울을 만들어나가겠다”고 말했다.

한편 서울시는 서울 디지털 성범죄 안심지원센터를 통해 긴급상담부터 수사·법률지원, 삭제지원, 심리치료·의료 지원까지 원스톱 지원하고 있다. 지난 2년간(2022년 3월~2024년 3월) 935명의 피해자를 지원했다. 총지원 건수는 3만576건에 이른다.