행안부, AI 딥페이크 분석모델 개발…디지털범죄 대응 강화

[이데일리 박태진 기자] 1. 21대 대통령 선거 기간 특정 후보가 하지 않은 발언을 하는 것처럼 조작한 영상이 온라인에 퍼졌다. 국립과학수사연구원(국과수)은 인물 음성의 미세한 비일치성을 탐지해 이 영상이 딥페이크라고 판단했고, 유권자에게 혼란을 줄 수 있는 상황을 조기에 차단했다.

2. 사회관계망서비스(SNS)에서 얻은 지인의 얼굴 사진을 나체 이미지에 합성해 온라인에 유포한 사건이 발생했다. 국과수는 해당 영상을 분석한 결과 합성된 얼굴의 경계면에 나타난 왜곡을 포착했다. 이 감정 결과는 허위 영상의 신속한 차단과 수사 착수를 위한 결정적 증거로 활용됐다.

행정안전부와 국과수는 30일 이같은 내용이 담긴 AI 딥페이크 분석모델 활용 성과를 공개했다. AI를 활용한 딥페이크 판별 기술이 범죄수사 현장에 본격적으로 도입되고 있는 것이다.

이들은 행안부가 국과수와 함께 개발한 ‘인공지능(AI) 딥페이크 분석모델’을 범죄 수사에 활용한 사례다.

딥페이크는 AI 기술을 이용해 사진이나 영상에 다른 이미지를 중첩·결합해 실제와 매우 흡사한 가짜 이미지나 영상을 만드는 기술을 말한다. 최근 딥페이크 기술을 악용해 허위 정보를 제작해 온라인상에 유포하는 일이 벌어지면서 사회적 문제가 되고 있다.

행안부는 수사기관이 관련 증거물 분석에 어려움을 겪는 상황을 극복하기 위해, 딥페이크 의심 이미지·영상·음성의 진위를 판별하는 분석 모델을 개발해 지난 4월 검증을 마쳤다.

모델 개발 과정에서 공개 데이터 세트와 자체 제작 콘텐츠 등 딥페이크 데이터 약 231만 건을 활용했다. 분석 모델은 딥페이크 흔적을 자동으로 탐지하고, 변조 의심 파일의 합성 확률과 시간별 변조율을 예측해 딥페이크 여부를 신속히 판단한다.

특히 이 모델은 눈·코·입 등 신체 부위별 탐지 능력과 데이터가 일부 손실된 증거물에 대해서도 뛰어난 분석 능력을 갖췄다고 행안부는 설명했다.

실제로 이 모델은 경찰청 등 수사기관의 의뢰를 받아 5∼6월 21대 대통령 후보 관련 선거범죄 13건, 디지털 성범죄 2건 등 총 딥페이크 관련 범죄 15건에 대한 감정을 수행하는 데 활용됐다. 또 대통령 선거 기간에는 중앙선거관리위원회에 이 모델을 공유해 유튜브 등 온라인 공간에 퍼진 불법 딥페이크 선거홍보물 1만여건을 찾아내 삭제하는 데 기여했다.

행안부는 이 분석 모델을 여성가족부, 방송통신위원회 등에도 단계적으로 제공해 각 기관의 딥페이크 콘텐츠 탐지 및 대응 역량 강화를 지원할 예정이다.