정상희 "AI, 순기능·역기능 공존… 규제·촉진책 수반돼야"[콘텐츠유니버스]

‘2023 콘텐츠 유니버스 코리아’가 9일 경기도 고양시 일산 킨텍스 제2전시장에서 열렸다. 정상희 에스에이피코리아 상무가 ‘딥페이크 AI의 활용과 윤리’를 주제로 강연하고 있다.(사진=노진환 기자)

[이데일리 윤기백 기자] “AI의 순기능도 크지만 역기능도 상당합니다. 규제와 촉진책이 수반돼야 합니다.”

정상희 에스에이피코리아 상무는 9일 경기도 고양 킨텍스(2전시장 7홀)에서 열린 ‘2023 콘텐츠 유니버스 코리아’(Contents Universe Korea 2023) 주제강연에서 적절한 법제화가 AI 산업의 성패를 가를 것이라고 조언했다.

정 상무는 “‘딥페이크 AI’(이미지 합성) 기술을 통해 독립유공자 등 조상님을 만날 수 있는 순기능이 있는 반면, 유명인의 이미지를 악용해 음란물 등으로 사용하는 역기능도 있다”며 “인공신경망이 적대적으로 학습하게 되면 인간이 알 수 없을 정도로 정교해지고, 그로 인해 혼란이 발생할 수 있다”고 우려했다. 이른바 실제 인물과 ‘딥페이크’ 인물이 충돌해 촉발하는 ‘듀얼 유저 딜레마’에 빠질 수 있다는 것이다.

‘딥페이크 AI’가 사회적으로 문제가 되고 있지만 악용 방지를 위한 법과 제도 마련은 뒤처지고 있는 상황이다.

정 상무는 “우리나라는 AI 윤리에 대한 법제도가 전무한 상태다. 사실 전 세계적으로도 AI 윤리 법제도를 수립한 나라는 단 한 곳도 없다”며 “결국 규제가 필요한데, 지나친 규제는 오히려 AI 기술의 발전을 저해할 수 있어 조심스럽게 접근해야 한다”고 조언했다.

‘딥페이크 AI’를 판별할 수 있는 AI가 개발되고 있다는 소식도 전했다. 정 상무는 “‘딥페이크 AI’ 디텍션 앱을 설치하면, 해당 영상과 사진이 딥페이크인지 사실인지 판별해주는 AI 기술이 개발되고 있다”며 “빠르게 상용화가 이뤄진다면 오히려 미국과 영국 등에 역수출하는 새로운 수익 모델이 될 것”이라고 전망했다.

‘2023 콘텐츠 유니버스 코리아’는 ‘AI 기술, K콘텐츠를 만나다’를 주제로 11일까지 이어진다. 이데일리와 고양컨벤션뷰로, 오프너디오씨가 공동 주최하고 문화체육관광부, 중소벤처기업부, 고양특례시, 한국관광공사, 한국콘텐츠진흥원 등이 후원하는 행사다.

9일 개막식을 시작으로 사흘간 AI와 콘텐츠 전문가 50여명이 무대에 올라 강연, 토크쇼, 워크숍 등 40여개 프로그램을 선보인다. 개막 이틀째인 10일 행사는 오전 10시부터 시작해 오후 10시까지 진행된다.