'제2의 AI윤석열 막을까 허용할까'…국회 '딥페이크' 허용 논의

[이데일리 김유성 이수빈 기자] ‘딥페이크’ 영상을 선거에 활용할 수 있는지 여부를 놓고 국회에서 논쟁이 벌어졌다.

딥페이크는 인공지능을 기반으로 만든 인간 이미지 합성 기술로 목소리까지 합성할 수 있다. 실제 인물이 말하고 행동하는 것처럼 표현할 수 있다. 지난 대선 때 국민의힘은 ‘AI윤석열’이라는 영상을 만들어 게시하기도 했다.

다만 악의적으로 활용된다면 그 피해가 심각할 수 있다. 예컨대 선거운동에서 상대방을 비방하거나 곤경에 빠뜨리기 위한 도구로 사용될 수 있기 때문이다.

지난 대선 때 국민의힘이 선보였던 ‘AI윤석열’

24일 정개특위 법안심사1소위 후 야당 간사인 김영배 더불어민주당 의원은 기자들을 만나 “현재 선관위가 딥페이크를 표시하지 않고 딥페이크 영상을 만들어서 선거운동에 활용하는 것에 규제하는 상황”이라면서 “오늘 논의된 쟁점은 딥페이크선거운동을 허용할 것인가, 허용한다면 딥페이크 영상에서 허위사실만 놓고 처벌하거나 규제하는 것 위주로 법을 만들 것인가 등을 놓고 논쟁이 있었다”고 설명했다.

김 의원은 “굉장히 뜨거운 논쟁이고 상당히 중요한 쟁점이 제기가 되어서 오늘 회의에서는 결론내지 못하고 12월 초에 소위를 다시 열어 심도있게 검토하자는 결론이 났다”고 말했다.

딥페이크 영상을 규제해야하는 이유는 그 자체가 진짜가 아닌 허위이기 때문이다. 실제 인물의 영상이 아니라 AI로 합성된 가짜 영상이란 이유다. 합성 대상자가 동의했다고 해도, 유권자 등 보는 사람들은 헷갈릴 수 있다.

김 의원은 “이게 선거운동에 활용이 된다면, 낙선 목적으로 너무 많은 불필요한 마찰이 일어날 가능성이 높다”면서 “딥페이크 자체를 선거운동 목적으로 활용하지 못하게 해야한다는 문제제기가 있었다”고 말했다.

또 김의원은 “다른 한편에서는 AI기술이 발전한 상황에서 부분적으로 허용해주는 게 옳지 않느냐라는 의견도 있었다. 당락을 목적으로 허위사실을 만들어 유포할 경우 처벌하자는 뜻”이라면서 “양 견해가 팽팽하게 맞서면서 결론을 내지 못했다”고 말했다.

그는 “기술 발달 문제가 현행 정치·선거풍토에 정착되지 못하다보니 생긴 고민”이라면서 “외국에서도 엇갈리곤 한다. 미국 일부 주는 아예 딥페이크 영상 선거운동을 못하게 한 곳도 있고, 딥페이크로 만들어진 영상이라고 표기하면 허용해주는 유럽 사례도 있다”고 말했다.

피켓 관련해서도 여야 위원들은 합의에 이르지 못했다. 다만 피켓은 기존에 착용하도록만 돼 있었는데, 소지 가능하도록 하는 데 법률 개정 합의에 이르렀다고 김 의원은 전했다.

AI윤석열은 지난 2021년 12월 6일 국민의힘이 공개한 ‘가상인플루언서’다. 대선 후보 윤석열이 여러 버전과 상황에 따라 다양한 말을 할 수 있게 돼 있었다. 국민의힘은 여러 버전의 AI윤석열 버전을 만들어 게시해 놓은 바 있다.