딥페이크 성범죄물 시정요구 3.2배↑…방심위 "조기 차단 대응 결과"

[이데일리 임유경 기자] 방송통신심의위원회는 ‘딥페이크 성범죄영상물’에 대한 시정요구가 지난해 2만3107건으로 집계돼, 전년 대비 약 3.2배 급증한 것으로 나타났다고 12일 밝혔다.

(사진=방삼위)

방심위는 텔레그램과의 핫라인을 구축하는 등 생성형AI 기술을 악용한 딥페이크 성범죄영상물의 유통을 조기에 차단하기 위해 적극 대응한 결과로 해석했다.

또한, 전체 ‘디지털성범죄정보’에 대한 시정요구 건수는 9만4185건으로 전년(6만6929건) 대비 약 41% 증가했다. 이는 다수 피해자 불법촬영물 유포, 아동·청소년 성착취 사건 등 다양한 디지털성범죄 현안에 대해 연중 상시·중점 모니터링을 강화한 결과라고 설명했다.

방심위는 “생성형AI 기술을 악용한 딥페이크 성범죄영상물 유포 및 불법촬영을 통한 아동·청소년 성착취 사례 등이 지속적으로 발생할 우려가 있다”며 “향후에도 상시 중점 모니터링 강화, 사업자 협력 등 자율규제 유도, 악성 정보에 대한 수사의뢰 및 지속적 협의 시행, 해외 사업자 및 유관기관 협력 등의 다각적 조치를 통해 유사한 피해가 재발되지 않도록 적극 대응할 예정”이라고 밝혔다.