"딥페이크 범죄 70%는 10대가…법 바꿀 때 됐다"

by최연두 기자
2024.11.25 19:20:26

[이데일리 최연두 기자] 인공지능(AI) 딥페이크가 국내 10대 청소년들 사이에서 성범죄 영상물 제작에 악용되는 사례가 잇따라 발생하자 산학계 전문가들이 머리를 맞댔다. 단순히 기술 발전에 대해 논의할 것이 아니라 사회적 윤리와 법적 규제를 아우르는 균형 잡힌 접근이 필요하다는 제언이다.

25일 서울 여의도 국회의원회관에서 열린 ‘사이버 보안성 강화 토론회’ 현장(사진=최연두 기자)

25일 서울 여의도 국회의원회관에서 국회 지속가능 성장을 위한 구조개혁 실천포럼(이하 실천포럼)과 한국언론인협회가 공동 주최한 ‘사이버 보안성 강화 토론회’에 모인 전문가들은 딥페이크 기술의 발전 동향과 악용 사례 등을 공유했다.

실천포럼은 국민의힘의 고동진 의원과 안철수 의원, 더불어민주당의 이상식 의원 등 세 명의 포럼 공동대표를 주축으로 올해 7월 구성된 초당적 연구 모임이다.

주로 청소년 층이 딥페이크 악용 범죄에 가담한다. 경찰청에 따르면, 최근 4년 간 딥페이크 허위 영상물을 만들어 배포해 입건된 10대는 전체 피의자의 70.5%를 차지했다. 이로 인한 피해자 역시 10명 중 6명이 미성년자였다.

이날 발제자로 나선 이성엽 고려대 기술경영전문대학원 교수는 “딥페이크 성범죄 영상물에 대한 대처는 정부와 기업, 이용자 모두에게 주어진 시급한 과제로 기술적 보완은 물론 제도적 개선 등 가능한 모든 방법을 동원할 필요가 있다”며 “사업자의 자율규제나 이용자 리터러시 강화 노력과 함께 디지털 윤리 교육 등 학교 차원에서 리터러시 함양 교육이 대폭 강화돼야 한다”고 강조했다.

토론 패널로 참석한 장형수 법무법인 동인 변호사도 “딥페이크 범죄 자체가 가해자를 추적하기 어렵기 때문에 플랫폼 운영자들이나 인터넷 이용자들의 협조가 무조건 필요하다”며 힘을 보탰다. 또 허위 영상 유포에 대한 자정 노력의 의무, 유통 방지의 의무 등을 법에 명시하고 형사 제재해야 한다고 강조했다.



다만 전문가들은 딥페이크 자체는 부정적인 기술이 아니라는 데 입 모아 동의했다.

김재범 한국정보통신기술협회(TTA) 융합보안기술팀장은 “영화나 드라마에서 등장인물의 디에이징(원래 나이보다 더 젊은 시절의 얼굴 표현) 특수 분장이 어려운 분야로 꼽히는데, 이때 딥페이크를 이용하면 콘텐츠 제작이 굉장히 용이해진다”고 짚었다. 이어 “한국의 콘텐츠를 수출할 때 필요한 목소리 더빙에 딥보이스를 활용하면 몰입감이 더 높아진다”고 했다.

이날 박현우 라온시큐어 상무는 딥페이크 관련 위협을 피해 사례별로 분류했다. 이어 딥페이크 영상 탐지에도 AI가 쓰인다고 설명하면서 “이러한 기술을 통해 탐지율을 90% 이상 높이는 것이 우리 보안 기술자들이 추진해야 하 부분”이라고 덧붙였다.

한편, 이날 토론회에 앞서 진행된 ‘화이트 햇 공격 콘테스트(WACON) 2024’ 시상식에서는 우수 기업과 공로자에 상장이 수여됐다.

국회 실천포럼 대표의원상 공로 부문에는 △(학술)민무홍 성균관대 교수 △(연구)김진욱 법무법인 주원 변호사 △(아티스트) 이연 △(화이트햇 해커) 고려대 이진헌, 카이스트 조정훈 △(유튜브 인플루언서) 박찬후 긱블 대표 등이 수상했다. 최고경영자(CEO) 부문은 정지운 이엠엘 대표, 박시우 팀에이컴퍼니 대표가 각각 수상했다.

이외에도 과학기술정보통신부 장관상에 하이시큐어와 휴스테이션, 외교부 장관상에 로이스와 마이렌, 행정안전부 장관상에 엑소스피어 랩스가 이름을 올렸다. 중소벤처기업부 장관상엔 린벤처스와 아타드가, 개인정보보호위원회 위원장상에는 NH농협캐피탈과 코스터가 수상의 영예를 안았다.