|
경찰은 딥페이크 범죄 피의자 검거에 국내 딥페이크 탐지에 특화되도록 훈련된 AI 모델을 탑재한 소프트웨어를 적극 활용하고 있다.
해당 소프트웨어는 △얼굴 생성 및 교체 여부 △눈 깜빡임과 혈류 변화 등의 생물학적 특성 분석 △파일 메타데이터 구조 등을 종합적으로 분석해 합성 여부를 가려낸다. 특히 국내 딥페이크 탐지에 특화되도록 훈련된 AI 모델을 탑재해 성능을 지속적으로 고도화하고 있다. 해당 소프트웨어는 개발 후 현재까지 총 1636건 활용됐고, 올해는 특히 선거범죄와 같은 수사 분야에서도 활용되면서 영역을 넓혀가고 있다.
경찰은 이 소프트웨어로 영상물을 탐색했음에도 조작 여부가 모호한 경우에는 과학수사 영상분석관에게 의뢰해 위·변조를 검증하는 탐지 절차를 구축했다.
아울러 딥페이크에 악용되고 있는 상용 AI 프로그램의 특이점을 분석한 ‘AI 포렌식 기법’을 개발해 수사에 활용하고 있다. 시·도경찰청 소속 전문분석관이 이를 활용해 ‘피의자가 어떤 프로그램으로 영상을 조작했는지’, ‘어느 부분을 변경했는지’ 등 제작부터 유포까지 범행의 전 과정을 기술적으로 분석, 재구성해 범행의 고의성을 입증하는 핵심 증거로 사용하고 있다.
경찰청 관계자는 “기술이 진화하는 속도 이상으로 경찰의 대응 기술을 발전시켜 나가고 있다”며 “관련 시스템 고도화와 집중단속을 통해 허위영상물 범죄에 무관용 원칙으로 강력 대응하겠다”고 밝혔다.
