공정성 논란 잡는다…코이카 공모전에 ‘딥페이크 탐지 AI’ 도입

[이데일리 김세연 기자] 생성형 인공지능(AI) 전문 기업 딥브레인AI는 한국국제협력단(KOICA) AI 활용 공모전에 딥페이크 탐지 솔루션 ‘AI 디렉터’를 제공했다고 24일 밝혔다. 출품작 진위를 판별해 대회 공정성을 높이기 위해서다.

딥브레인AI가 한국국제협력단(KOICA)이 주최한 AI 활용 공모전에 자사의 딥페이크 탐지 솔루션 ‘AI 디렉터’를 제공했다.(사진=딥브레인AI)

AI 디텍터는 화면의 픽셀 변화와 영상·음성의 미세한 패턴을 분석해 콘텐츠의 AI 활용 여부를 정확하게 파악하는 솔루션이다. 이미 공공기관, 금융, 교육 등 다양한 산업 현장에서 기술력과 확장성을 인정받았다. 이번 공모전에서는 화면, 음성 요소, 장면 전환 등 제작 과정의 흐름을 세밀하게 분석해 심사 과정의 공정성을 높였다.

최근 생성형 AI 기술이 고도화하며 육안으로는 AI 활용 여부를 식별하기 어려운 사례가 늘어나고 있다. AI 디텍터는 공모전 등에서 필요한 전문적인 판별 기술을 갖고 있다는 게 딥브레인AI의 설명이다.

장세영 딥브레인AI 대표는 “생성형 AI 기술이 빠르게 확산하는 만큼 콘텐츠의 제작 방식과 활용 배경을 투명하게 확인할 수 있는 시스템은 공정성과 신뢰도를 높이는 데 중요한 요소”라며 “딥브레인AI는 책임 있는 기술 개발을 통해 공공과 민간 전반에서 안전하고 투명한 AI 활용 환경을 만드는 데 지속적으로 힘쓰겠다”고 밝혔다.