AI가 만드는 뉴스 사이트 급증…광고 수익까지 올려

[이데일리 김국배 기자] “조 바이든 미국 대통령이 사망했다”. 지난 4월 한 스팸 사이트는 이런 뉴스를 내걸었다. AI가 만든 가짜 뉴스였다. 5월에는 트위터 등 소셜 미디어에 미 펜타곤 폭발 사진이 게시됐다. 펜타곤 영내에서 검은 연기가 치솟는 모습이 트위터를 통해 전 세계로 확산됐고, 미 S&P 500 지수가 한때 0.3% 하락하는 등 증시가 출렁였다. 하지만 이 사진 역시 AI가 만들어낸 가짜였다.

챗GPT 같은 생성 인공지능(AI)이 만든 가짜 뉴스 등의 유해 콘텐츠가 확산하고 있다. 미국 뉴스 신뢰도 평가기관인 뉴스가드에 따르면, 뉴스의 전체나 대부분을 AI가 생성한 것으로 추정되는 사이트는 지난 4월 49개에서 지난달 말 기준 217개까지 늘어난 것으로 나타났다. 계속 증가하는 추세다.

뉴스가드가 지목한 AI 뉴스 사이트 중 하나. (사진=뉴스가드)

대부분 정보 출처가 명확하지 않으며 바이라인조차 없다. CNN 등 주요 매체의 기사를 재작성한 것으로 뉴스가드는 분석했다. 하루 평균 1200개 이상의 기사를 쏟아내는 사이트도 있었다.

이런 가짜 뉴스 사이트가 넘치는 것은 광고 수익 때문으로 분석된다. 이용자들은 검색엔진을 통해 이런 사이트에 접속하게 되고, 이는 광고 수익으로 이어진다.

뉴스가드는 “정치, 금융, 건강 등 다양한 분야에서 하루 수백 개의 기사가 양산되고 있다”며 “많은 사이트가 광고로 가득 차 있는데, 이는 광고 수익을 창출하기 위해 만들어졌을 가능성이 높다는 것을 나타낸다”고 했다. 실제로 217개 중 55개 사이트에 393개의 광고가 걸린 것으로 확인됐다. 90% 이상의 광고가 구글 애드를 통해 제공됐다.

문제는 미국 최대 쇼핑 사이트 아마존에서도 AI가 쓴 리뷰가 발견될 정도로 가짜 콘텐츠가 빠르게 유통되고 있지만, 이를 걸러낼 기술 개발은 그 속도를 따라가지 못하고 있는 점이다. 향후 생성 AI로 인한 악성 콘텐츠 문제가 더 심각해질 가능성이 대두되는 배경이다. MIT 테크놀로지 리뷰는 “콘텐츠가 AI에 의해 생성됐는지 여부를 알려주는 도구의 개발과 적용이 필요하다”면서도 “이는 상당한 기술적 난제”라고 했다.

특히 선거를 앞둔 나라들은 AI 위험에 이미 직면해 있다. 내년 11월 대선을 치르는 미국의 온라인 상에는 AI를 사용한 가짜 이미지 등이 넘쳐나고, 총선을 앞둔 한국에서도 이런 AI발 가짜 뉴스가 영향을 미칠 수 있다는 경고가 벌써 나온다. AI 가짜 뉴스와 콘텐츠가 온라인에 범람하면서 우려가 커지자, 정부 등에서는 이를 규제하려는 움직임도 일고 있다. 이상헌 더불어민주당 의원은 지난 5월 AI를 이용해 제작된 콘텐츠의 경우 그 사실을 표시하도록 하는 ‘콘텐츠 산업 진흥법 일부 개정안’을 대표 발의한 상태다.