총선 대비 “딥페이크 탐지 클릭으로 확인”…딥브레인 AI

[이데일리 김현아 기자]

국내 생성형 인공지능(AI) 전문 기업 딥브레인AI(대표 장세영)가 클라우드 환경에서 운영되는 서비스형 소프트웨어(SaaS) 기반의 딥페이크 탐지 솔루션을 출시했다.

어떤 제품인데?

이번에 딥브레인AI가 내놓은 ‘딥페이크 탐지 솔루션’은 가짜 뉴스와 불법 음란물, 금융 범죄 등 각종 신종 범죄의 수단으로 딥페이크가 악용되는 사례가 늘어나면서개발에 착수했다.

가장 큰 특징은 탐지 기술에 대한 접근성이 높다는 점이다. SaaS형이어서 누구나 손쉽게 장소에 구애받지 않고 딥페이크 영상, 이미지, 음성 등의 탐지가 가능하다.

이전에는 제한된 접근성으로 국내 일부 관공서 등지에서 한정적으로 활용됐다.

▲종합탐지 ▲음성탐지 2가지 서비스를 제공하며, 한국어를 비롯해 영어, 중국어, 일본어 등 4개 언어를 지원한다.

종합탐지 서비스는 조작된 이미지와 동영상을 탐지한다. 우선 가상 얼굴 생성 기능인 ‘페이스 제너레이션(Face Generation)’과 특정인의 얼굴로 교체하는 ‘페이스 스왑(Face Swap)’, ‘립싱크’ 등의 기술 적용 여부를 확인한다.

음성탐지 서비스를 통해 조작된 음성 탐지도 가능하다. 음성의 주파수와 시간 등을 고려해 종합 분석하는 방식으로 음성 합성 여부를 판별한다. 아울러 AI를 활용해 자연스러운 목소리를 만드는 보코더(Vocoder) 등의 사용 여부도 확인할 수 있다

어떻게 개발했는데?

딥브레인AI는 글로벌 탑티어 수준의 생성형 AI 아바타 제작 솔루션과 내부 축적된 다량의 딥러닝 기반 AI 휴먼 데이터를 토대로 딥페이크 탐지 솔루션을 제작해 완성도를 높였다. .

SaaS형 딥페이크 탐지 솔루션은 현재 딥브레인AI 홈페이지에서 문의하기를 통해 구입 후 사용할 수 있다.

딥브레인AI는 추후 별도의 문의 없이도 홈페이지 내에서 간편 결제를 통해 솔루션을 사용할 수 있도록 접근 편의성을 개선할 예정이다.

4워 총선 수요 겨냥

회사에 따르면 4월 제22대 총선, 11월 미국 대통령 선거 등을 앞두고 국내외 정부기관, 언론사, 관계자로부터 딥페이크 탐지 솔루션에 대한 문의가 잇따르고 있는 상황이락 한다.

딥브레인AI는 이번 SaaS형 딥페이크 탐지 솔루션을 바탕으로 누구나 쉽고 간편하게 허위사실 유포를 예방하고, 혼란을 최소화할 수 있도록 적극 지원할 방침이다.

장세영 딥브레인AI 대표는 “사람을 돕는 기술로 활용돼야 할 AI 기술이 신종 범죄 수단으로 악용되고 있어 매우 안타깝게 생각한다”면서 “딥브레인AI는 생성형 AI 대표 기업의 강점을 살린 완성도 높은 딥페이크 탐지 솔루션을 SaaS 형태로 전 세계에 적극 지원하며 글로벌 딥페이크 범죄 근절에 앞장설 것”이라고 밝혔다.