AI가 아동 성착취물 찾아내니…삭제 요청 처리 9.7배↑

[이데일리 방보경 기자] 인공지능(AI) 도입으로 아동·청소년 성착취물 삭제 요청 처리 건수가 약 10배 증가했다. 기존에는 사람이 온라인 게시물을 일일이 찾아 신고했지만 AI 도입으로 24시간 성착취물을 탐지하면서 업무 처리 속도가 크게 빨라지면서다.

아동·청소년 온라인 성착취 탐지·신고 시스템 흐름도. (자료=성평등가족부)

성평등가족부와 한국여성인권진흥원은 10일 이같은 내용의 AI 기반 아동·청소년 온라인 성착취 탐지·신고 시스템의 운영 성과를 발표했다. 지난 4월부터 가동한 이 시스템은 온라인상에서 아동·청소년 성착취물과 유인정보를 자동으로 수집·분석한다. 담당자가 탐지된 게시물을 검토한 뒤 삭제를 요청하는 방식이다.

AI 도입 이후 삭제 지원 실적은 크게 늘었다. 지난해 종사자들이 수작업으로 삭제를 지원한 아동·청소년 성착취물은 4만 5438건이었다. 반면 올해 4월부터 9월까지 6개월간 삭제 지원 건수는 9만 6210건에 달했다. 지난해 연간 실적의 두 배를 넘어선 것이다. 종사자 1인당 하루 평균 삭제 요청 처리 건수도 20.8건에서 202.1건으로 약 9.7배 증가했다.

종사자들의 심리적 부담을 줄이는 효과도 나타났다는 게 정부 설명이다. AI가 유해 게시물을 먼저 탐지하면서 종사자들이 성착취물에 직접 노출되는 빈도가 줄었다는 것이다. 이에 따라 종사자들이 피해자 지원 업무에 더욱 집중할 수 있는 환경을 마련했다는 평가다.

정부는 내년까지 AI 탐지 범위와 판별 정확도를 높일 계획이다. 현재 AI 시스템은 사회관계망서비스(SNS)와 채팅앱 등 14개 플랫폼에서 약 220개 키워드를 기반으로 유해 게시물을 수집하고 있다. 탐지 대상 플랫폼을 올해 74개로 확대하고 내년에는 139개까지 늘리는 것이 목표다.

AI의 판별 방식도 고도화한다. 현재는 특정 단어나 이미지를 중심으로 성착취물을 찾아내지만 앞으로는 대화의 흐름과 맥락까지 분석하도록 개선할 방침이다. 이를 위해 중앙디지털성범죄피해자지원센터가 보유한 자료 약 10만건과 시스템 운영 과정에서 축적한 사례를 AI 학습에 활용한다. 신종 성착취 수법이나 우회 표현까지 탐지하기 위해서다.

중앙센터의 AI 기술을 지역 현장으로 확대하는 방안도 추진한다. 내년부터 지역 디지털성범죄피해자지원센터에 AI 시스템을 시범 보급할 계획이다. 동일하거나 유사한 피해 영상물을 자동으로 탐지하고 삭제를 요청할 수 있는 설치형 소프트웨어도 제공한다. 특히 지역센터에서도 피해자의 민감정보를 외부로 전송하지 않고 영상 분석과 유포 모니터링을 수행할 수 있게 된다.

원민경 성평등부 장관은 “디지털 성범죄에 강력하고 신속하게 대응하기 위해서는 정부 차원의 기술적 대응이 필수적”이라며 “AI 등 최신 기술을 현장에 적극 도입해 대응 속도 및 정확도를 높이겠다. 촘촘한 지원체계를 구축하여 피해자의 신속한 일상 회복을 위해 최선을 다하겠다”고 강조했다.