"뽀샵도 안한 내 사진, 합성이라고?" 딥페이크 탐지 오판에 화들짝[잇:써봐]

by최연두 기자
2024.09.21 08:39:48

[이데일리 최연두 기자] “사진 속 인물과 배경이 실제인지 아닌지를 구별하는 것이 더 어려워지겠구나.” 국내 보안기업 샌즈랩이 지난 5일 오픈베타 버전으로 공개한 딥페이크 탐지 웹사이트 ‘페이크페크’를 써본 뒤 느낀 점이다. 딥페이크 유무를 정확히 판별하지 못해 아쉬움이 크게 남았다.

페이크체크 오픈베타 버전은 누구나 무료로 사용 가능하다. 딥페이크로 의심되는 이미지를 업로드하면 5초 내외로 사진의 진위 여부를 판별해준다. 현재 판별 모델 4개가 작동 중으로, 이용자는 각 모델의 분석 결과를 볼 수 있다. 샌즈랩이 오픈소스를 기반으로 자체 개발한 것인데, 각 모델의 세부 사항은 공개하지 않고 있다.

생성형AI가 기자의 사진과 합성해 만든 이미지 페이크체크 판별 결과(사진=페이크체크 화면 캡처)

처음엔 단순 호기심으로 기자의 사진을 페이크체크에 업로드해봤다. 올 초 스노우, 에픽(EPIK) 등과 같은 사진 촬영·편집 애플리케이션(앱)에서 생성형 AI로 여러 장의 합성 사진을 만들어본 경험이 있다. 이 중 기자의 얼굴을 연말 잠옷 파티 복장을 한 아이와 합성한 사진을 골라 페이크체크에 넣었다. ‘이 정도 수준의 합성 사진은 딥페이크 100%로 나오겠지’라는 마음이었다.

의외의 결과가 나왔다. 페이크체크의 판별 모델1은 딥페이크 확률 0%, 정상 확률 100%라고 분석했다. 모델2 역시 딥페이크 1%, 정상 99%를 기록했다. 판별 모델3과 4만이 해당 사진에 대한 딥페이크 확률을 91.9%, 81.2%로 높게 잡았다.



이번엔 성별까지 바꾼, 작정하고 만든 딥페이크 이미지 분석을 맡겨봤다. 딥페이크 기술이 정교한 탓일까, 이번엔 모델 2~4가 모두 해당 이미지를 정상 사진(84.4%, 84.7%, 98.7%)이라고 판단했다. 판별 모델1만이 딥페이크 확률 70.1%, 정상 확률 29.9%로 분석했다.

전문 사진사가 촬영한 기자의 모습. 포토샵을 거치지 않은 쌩얼이 담겼지만 페이크체크는 딥페이크 이미지일 가능성이 있다고 판단했다.(사진=페이크체크 화면 캡처)

포토샵을 거치지 않은 정직한(?) 사진은 어떤 결과가 나올까. 최근 해외 출장지에서 전문 사진사가 찍어준 기자의 사진은 딥페이크일 확률이 61.4%(모델3)가 나왔다. 순간 ‘내 얼굴이 가짜란 말인가’라는 웃픈(웃기면서 슬픈) 생각과 함께 ‘진짜를 가짜라고 우기면 가짜가 될 수도 있겠구나’라는 우려도 들었다.

물론 페이크체크 서비스는 현재 완성형이 아니다. 샌즈랩이 당초 기획한 서비스 목표도 변조된 이미지를 여러 개 모델로 검증해서 이용자가 이미지의 진위를 스스로 판단하게 돕자는 취지였다. 샌즈랩 측은 “페이크체크는 딱 하나의 모델로 (딥페이크를) 판별하는 콘셉트는 아니다. 판별 모델이 분석한 결과를 보여주면 해당 결괏값을 보고 직접 판단하도록 하는 것”이라고 했다.

샌즈랩은 페이크체크를 지속 고도화하고 있다. 향후 이미지뿐 아니라 동영상까지 딥페이크 여부를 판별할 수 있도록 지원할 방침이다. 판별 모델을 10개, 50개로 더 늘려 이용자의 정확한 판단을 돕고 향후 유료 전환을 통해 수익화를 꾀할 계획이라고 밝히기도 했다.

한편, 페이크체크 서비스는 생성형 AI 역기능 탐지·대응 기술을 연구·개발(R&D)하는 국가 과제의 일환으로 개발됐다. 과제 착수 이후 얼마 안돼 AI 역기능으로 인한 사회적 문제가 심화하자 샌즈랩이 디지털 범죄 근절을 위한 사회적 기여 차원에서 민간에 개방했다. 해당 서비스를 구축하고 유지하는 데 필요한 클라우드 인프라 등 비용은 샌즈랩이 부담하고 있다.