'딥페이크·디지털 성범죄'서 안전한 서울…양성평등주간 포럼·전시

by양희동 기자
2024.09.01 11:15:00

[이데일리 양희동 기자] 몰카 등 디지털 성범죄와 딥페이크 허위 영상물 증가로 시민 안전이 위협받고 있는 가운데, 서울시가 디지털 성범죄 예방과 피해 대응을 위한 강연·교육·전시 등 다양한 시민참여 행사를 마련한다.

서울시여성가족재단은 양성평등주간(9월 1~7일)을 맞아 2일부터 6일까지 ‘2024 양성평등주간 기념행사 안전 서울 로그인-클릭’을 개최한다고 1일 밝혔다. 이번 행사 기간 서울여성플라자 로비에선 ‘서울 디지털 성범죄 안심지원센터’와 인공지능(AI) 기반의 영상 삭제 시스템을 소개하는 전시가 열린다. 센터와 영상삭제시스템이 포함된 서울시의 디지털 성범죄 통합대응정책은 지난 6월 ‘행정노벨상’으로 불리는 UN공공행정상을 받기도 했다.

서울디지털성범죄 안심지원센터는 지난 2022년 3월 설립된 이후 디지털 성범죄 예방과 피해자 지원, 영상물 삭제 등을 원스톱을 지원하고 있다. 개관 후 △긴급상담 △수사·법률지원 △삭제지원 △심리·의료지원 등을 통해 2년간 총 940여명을 지원했다. 총 지원건수도 3만 1000여건에 달한다. 또 디지털 성범죄 AI 삭제지원 기술을 통해 각종 SNS 상의 피해 영상물을 24시간 자동으로 검출, 보다 빠르게 영상물을 삭제해 유포를 막는 시스템도 원리 등도 소개할 예정이다.

서울연구원과 협력해 AI 안면인식을 기반으로 본인의 나이를 예측해 보는 체험프로그램도 3~4일 이틀간 운영된다. 이 프로그램은 지난 5월 전국 최초로 서울시가 개발한 AI 감시 기술을 활용한 것이다.



서울시는 디지털 성범죄 예방과 피해자 지원을 위해 지난해 3월 전국 최초로 AI기반 삭제시스템을 도입했다. 이어 아동·청소년 성착취물을 특정할 수 있는 AI 감시 기술을 전국 최초로 개발·도입해 24시간 자동 추적·감시에 나서고 있다. 이 시스템은 AI 딥러닝 기반 안면인식기술로 영상물에 ‘얼굴’이 나오지 않더라도 아동·청소년의 성별과 나이를 판별할 수 있다.

문기현 양성평등사업실장 직무대리는 “AI 딥페이크와 같이 시민 안전을 위협하는 신종 디지털 성범죄, 스토킹 등 폭력에 대한 대응 및 예방 인식을 높이기 위해 이번 행사를 기획했다”며 “서울시민과 함께하는 이번 행사를 통해 각종 폭력으로부터 안전한 서울 실현을 위해 한발 더 나아가는 계기가 되길 바란다”고 말했다.

한편 이번 행사와 관련한 내용은 서울시여성가족재단 홈페이지에서 확인할 수 있다.