가짜 사진 잡는 앱 나왔다..KAIST, 딥페이크 탐지앱 서비스 시작

[이데일리 강민구 기자] 미국 대선 투표를 독려하는 김정은 북한 국무위원장, 해외 포르노 사이트에 등장한 한국 여성 아이돌. 엄마에게 돈을 보내달라는 아들. 언뜻 보면 진짜 같지만 모두 조작한 영상이 활용된 사례다.

이흥규 KAIST 전산학부 교수.(사진=KAIST)

인공지능 기술을 사용해 사람의 얼굴, 내용, 속성 등을 변화시키는 기술인 ‘딥페이크(deepfake)’ 기술이 갈수록 교묘해지면서 가짜뉴스, 음란물 제작 등에 따른 피해도 발생하고 있다. 그런 가운데 국내 연구진이 모바일 애플리케이션을 이용해 쉽게 딥페이크와 사진 위변조를 알아낼 수 있는 기술을 선보였다.

이흥규 한국과학기술원(KAIST) 전산학부 교수 연구팀은 인공신경망 기반으로 딥페이크와 사진 위변조를 분석할 수 있는 소프트웨어인 ‘카이캐치(KaiCatch)’를 개발해 국내에서 처음 서비스를 시작했다. 그동안 논문 발표나 기술 홍보 수준에 머물렀던 것에서 벗어나 일반인도 쉽게 서비스를 이용하도록 만들었다.

◇규격 맞춰 올리고, 3일 기다리면 완성

‘카이캐치’ 앱은 영상분석이나 전문지식이 없는 일반인 누구나 간단하게 사용할 수 있다. 우선 ‘구글 앱 스토어’에서 카이캐치라고 입력 후 앱을 받아 실행하면 된다. 네이버, 카카오톡 또는 회원가입을 통해 가입 후 ‘의뢰하기’를 누르면 사진을 첨부할 수 있는 창이 나온다.

앱에서 안내한 규격에 맞춰 영상을 개별 프레임으로 잘라 사진으로 변환해 사진을 일정규격으로 첨부해서 올리면 된다. 이미지 위변조 탐지 기술이나 딥페이크 탐지 기술 중 하나를 고르고, 소정의 비용(2000원)을 결제하면 3일 후 결과가 나온다. 분석 결과는 0에서 100 값으로 표시되며, 숫자가 높을수록 딥페이크일 확률이 높다.

연구팀은 딥페이크 여부를 탐지하기 위해 영상의 미세 변형 신호 흔적과 미세 이상 신호 흔적 탐지 기술을 적용한 신호처리와 인공지능 기술을 적용했다. 인공지능이 얼굴 영역의 미세한 변형과 얼굴 내 왜곡 발생 가능 영역의 이상 신호 흔적을 분석한다. 사진 위변조 탐지 기술에도 50여 개의 표준 양자화 테이블과 1000여 개가 넘는 비표준화된 양자화 테이블을 활용해 사진을 분석하도록 했다.

일반인은 의뢰 후 두 장의 사진을 받을 수 있다. 사진 속 주요 영역들이 다른 주변 영역의 색상과 다르거나 다양한 색상이 합쳐지면 해당 영역이 위변조된 것으로 판단할 수 있다. 인공지능 판별 서비스가 충분하지 않다면 이메일로 의뢰해 수작업을 통한 정밀 분석 서비스도 받을 수 있다.

◇90% 내외 신뢰도…변형 기법도 탐지

최근 딥페이크에는 다양한 변형기법들이 사용되고 있다. 연구팀은 예측하지 못하거나 모르는 변형 기법을 사용해도 90%의 높은 신뢰도로 탐지하도록 했다. 현재 안드로이드 기반의 모바일 환경에서만 동작하는 앱 서비스 기술을 다른 운영체제나 다른 언어로도 사용하도록 할 예정이다.

이흥규 교수는 “정해진 유형, 정해진 사진을 보고 판독하는 것이 아니라 인공지능과 미세 이상 신호 흔적 분석 기법을 사용해 다양한 유형 변형에 대응해 범용성을 지니도록 개발했다”며 “우리가 예측하지 못하거나 모르는 변형 기법을 사용해도 90% 내외의 높은 신뢰도로 판별한다”고 설명했다.

이 교수는 “기존 탐지 기법과 다른 기법을 사용한 위변조 탐지 기술도 실용화해 앱에 추가로 탑재해 예외 사례도 줄일 계획”이라면서 “사진 위변조, 딥페이크 탐지 기술들이 아직 완벽하지는 않지만, 실용 기술로 처음 시작한 만큼 아무나 쉽게 사진을 위변조하거나 딥페이크를 하지 못하도록 기술을 개발하겠다”고 덧붙였다.

사진 위변조 이미지 분석 결과(그림 위)와 이에 대한 간단한 설명(그림 아래).(자료=KAIST)