유튜브와 인스타그램에서 약 2만명의 팔로워를 거느린 20세의 우크라이나 인플루언서 올가 로이에크(Olga Loiek)는 “팔로워들로부터 내 얼굴로 다른 언어를 말하는 영상이 있다는 얘기를 듣고 확인했더니 사실이었다. 정말 소름이 끼쳤다”며 이같이 말했다. 로이에크의 딥페이크 영상은 중국 소셜미디어(SNS)인 샤오홍슈(Xiaohongshu)와 비리비리(Bilibili)에서 가짜 계정을 통해 퍼져나갔고 30만명의 팔로워를 끌어모았다.
|
로이에크는 FT와의 인터뷰에서 “(내 얼굴을) 복제한 이유는 모르겠지만, 가짜뉴스를 퍼뜨리는 데 악용됐을 가능성을 의심하고 있다. 우크라이나 전쟁은 내 인생 최악의 사건인데, (딥페이크 영상은) 사람들에게 러시아가 위대한 나라라고 믿게 만들려는 선전처럼 들렸다”며 불쾌함을 드러냈다.
|
음란물에 악용되는 사례도 빈번하게 나타나고 있다. 미국에선 세계적인 팝스타 테일러 스위프트와 셀레나 고메즈의 딥페이크 음란 이미지·동영상이 유포됐고, 이탈리아에서도 조르자 멜로니 총리의 얼굴을 합성한 딥페이크 포르노가 지난 수개월 동안 다수 유통됐다. 이들 영상의 조회수는 적게는 수백만부터 많게는 수억회에 달했다.
앞서 가디언은 지난해 3분기 이용자수 기준 상위 40개 딥페이크 포르노 사이트에서 13만 3733개의 새로운 딥페이크 포르노 영상이 업로드된 것으로 조사됐다고 보도한 바 있다. 이는 2022년 한 해 동안 업로드된 전체 영상을 합친 것보다 많은 수치다.
스위프트는 가짜 투자 광고로도 곤욕을 치렀다. 그의 팬덤인 ‘스위프티’(Stifties)에게 무료로 루크르제 냄비를 선물한다는 내용의 허위 광고를 통해 매달 일정 금액이 자동 결제되도록 속인 사기 행위였다. 일론 머스크 테슬라 최고경영자(CEO)가 암호화폐 사기를 홍보하는 자신의 딥페이크 영상에 “내가 아니다”라고 직접 댓글을 다는 일도 있었다. 해당 광고 때문에 약 150명의 투자자가 수백만달러의 손실을 입은 것으로 전해졌다.
미국의 인플루언서 마이클 얀스는 발기부전 보충제를 홍보하는 유튜브 광고로 피해를 입었는데, 영상에 등장한 그의 발언이나 행동은 과거 동영상을 통해 밝힌 이혼 경험이나 감정까지 조작해 더욱 사실적이었다고 워싱턴포스트(WP)는 전했다. 신혼여행 도중에 피해 사실을 확인한 얀스가 유튜브에 신고한 뒤에야 해당 광고가 삭제됐다.
FT는 “대형 스타만이 표적이 아니다”라며 “상대적으로 덜 알려진 콘텐츠 제작자, 특히 여성들이 이 새로운 형태의 온라인 학대의 타깃이 되고 있다”고 우려했다. 이어 “AI 훈련을 위한 콘텐츠가 많을수록 복제가 더욱 현실적이고 정교해지기 때문에 자신의 모습이 담긴 동영상과 이미지를 인터넷에 정기적으로 게재하는 인플루언서들이 특히 취약하다”고 경고했다.
|
문제는 정신적 피해뿐 아니라 초상권이나 지식재산권 침해 등까지 발생하고 있지만, 법적 대응이 쉽지 않다는 점이다. 아직 구체적인 규제가 마련되지 않아 SNS 플랫폼의 자체 단속이나 딥페이크를 가려내기 위한 또다른 AI에 의존해야 하는 상황이다.
현재 틱톡, 인스타그램, 엑스(X·옛 트위터), 유튜브 등 주요 SNS 플랫폼은 기본적으로 AI가 생성한 콘텐츠를 허용하고 있으며, AI 사용 여부와 관계 없이 합의되지 않은 과도한 노출, 사기, 저작권 위반, 의도적으로 조작된 콘텐츠 등을 대부분 금지하는 정책을 펴고 있다.
구글은 “유튜브는 사용자를 보호하는 것이 최우선 과제다. 딥페이크 사기 광고와 그 배후에 있는 범죄자를 탐지하고 제거하는 능력에 막대한 투자를 하고 있다”고 밝히고 있지만, 온라인을 통해 빠르게 확산하는 딥페이크를 추적하는 데에는 한계가 있다고 FT는 지적했다.
얀스는 “솔직히 사람들이 무엇이 진짜이고 가짜인지 확실하게 분별할 수 있을지 모르겠다”고 토로했다.
