"가짜도 진짜처럼" 생성AI 우려에…유튜브, 레이블링 제도 도입

by최연두 기자
2024.03.19 17:49:48

[이데일리 최연두 기자] 유튜브가 실제와 다른 정보를 제공해 시청자에 혼란을 줄 수 있는 영상 콘텐츠에 꼬리표를 붙이는 ‘레이블링’ 제도를 도입했다. 생성형 인공지능(AI)을 활용해 실제처럼 보이도록 합성했거나 변형한 영상도 레이블링 콘텐츠 대상에 포함했다.

유튜브 쇼츠 비디오 화면 왼쪽 아래에 붙은 ‘변형 혹은 합성된 콘텐츠’(Altered or syntheic content) 꼬리표 예시(사진=유튜브 블로그 게시글 사진 캡처)

18일(현지시간) 구글 유튜브는 자사 블로그에 “시청자를 대상으로 투명성을 강화하고 창작자와 시청자 간 신뢰도를 높이기 위한 목적으로 새 레이블링 시스템을 도입한다”고 밝혔다. 이에 따라 창작자는 본인이 제작한 콘텐츠에 실제로 오인할 수 있는 장면이 포함돼 있으면 영상 업로드 전에 ‘변형 혹은 합성된 콘텐츠’(Altered or syntheic content)라는 레이블이 추가될 수 있도록 하는 설정에 체크해야 한다.

대표적으로 개인의 얼굴을 다른 사람 얼굴로 바꾸거나, 음성 합성으로 개인의 목소리가 아닌 다른 소리를 활용했다면 레이블링 대상 콘텐츠다. 실존하는 건물에 자연재해나 화재 혹은 사고가 발생한 것처럼 착각을 불러 일으키는 콘텐츠에도 레이블을 붙여야 한다. 건강 관련 내용이나 뉴스, 선거·금융 등 주제를 다루는 영상에는 더 눈에 띄는 방식으로 레이블이 표시될 예정이다.

유튜브 관계자는 블로그 게시글을 통해 “몇 주 안에 모바일 유튜브 애플리케이션(앱)을 시작으로 데스크톱과 TV에서 제공하는 유튜브 플랫폼에서 레이블이 적용된 모습을 볼 수 있다”고 말했다. 또 “창작자가 지속적으로 이번 제도에 따르지 않으면 해당 콘텐츠 삭제, 유튜브 파트너 프로그램 정지 등과 같은 불이익 조치가 내려질 수 있다”고도 했다.



다만, 누가봐도 합성된 것처럼 보이는 콘텐츠는 레이블링하지 않아도 된다. 유니콘 등 비현실적인 요소가 등장하거나 애니메이션·만화 등을 기반으로 한 영상 등이 해당된다. 색상 조정이나 조명 필터, 배경 및 뷰티 필터 등과 같이 시각적인 효과를 주는 경우에도 레이블링할 필요가 없다.

유튜브 관계자는 “시청자가 생성형 AI 콘텐츠에 대한 이해를 높이고, 이를 잘 수용하고 적응하도록 돕는 데 매우 중요한 역할을 하게 될 것”이라고 설명했다. 또 “이번 제도 도입으로 정보 투명성이 높아지고 AI가 인간의 창의성을 강화한다는 점을 더 잘 이해하는 데 도움이 되길 바란다”고 했다.

유튜브가 이러한 제도를 도입한 것은 최근 온라인 상에서 화제가 된 전쟁·정치 주제 딥페이크 콘텐츠로 인해 사회 경제적으로 문제가 발생할 수 있다는 우려가 나왔기 때문이다. 실제로 미국 바이든 정부는 작년 11월 생성형AI 관련 규정을 담은 행정명령에 서명했다. 업체가 AI 서비스 제공 시 안전 테스트 결과를 정부와 공유해야 하는 등 개입이 필요하다는 게 핵심이다.