인공지능이 음란물도 구별한다..네이버, 동영상 적용

[이데일리 김유성 기자] 네이버는 자체 개발 음란물 필터링 AI기술인 ‘네이버 X-eye’를 동영상 부분으로 확대 적용한다.

네이버 관계자는 “업데이트된 네이버 X-eye로 음란 동영상 필터링을 내부 실험한 결과 98%의 높은 적중률을 나타냈다”고 설명했다.

네이버는 지난 7월부터 이 기술을 이미지 부분에 적용해 실시간 필터링을 해오고 있다. 이번에 동영상 부분으로 확대 적용된 네이버 X-eye에는 기존 이미지 필터링 방식에 영상의 일정구간마다 프레임을 추출하는 과정이 추가됐다.

음란물지수가 특정 수준 이상으로 높은 프레임이 포함된 영상은 ‘임시 재생 중지’ 상태가 된다. 이후 10분 이내 검수자의 검토를 거쳐 정상 영상은 복구되고 음란 동영상은 삭제 및 이용제한 조치된다.

네이버에 등록되는 모든 동영상은 네이버 X-eye를 통해 자동으로 필터링 된다. 이에 따라 검수자가 일일이 모니터링 하던 과거 방식보다 효율이 높아질 것으로 예상된다.