|
AI 생성 가짜후기 폭증…10건중 3건 이상
캐피털원이 지난달 9일 발표한 보고서에 따르면 지난해부터 올해 상반기까지 전체 온라인 후기의 약 30%가 가짜 후기로 추정됐다. 또한 가짜 후기가 실제 후기보다 12% 더 빠르게 늘어나고 있는 것으로 나타났다. 이에 따른 구매 낭비액은 전 세계적으로 약 7870억달러(약 1108조4900억원)에 이르는 것으로 추산됐다.
오리지널리티AI가 지난해 아마존, 베스트바이, 월마트, 옐프 등의 후기 7만 5000개를 분석한 결과에서도 연말 쇼핑 시즌 동안 전체 후기의 31.5%가 AI로 생성된 것으로 추정됐다. 특히 블랙프라이데이 기간 중에 28%, 크리스마스 쇼핑 시기에는 33%가 AI로 작성된 것으로 분석됐다. 중국 플랫폼인 테무에선 올해 AI 후기가 2022년 대비 1361% 폭증했고, 알리익스프레스도 2020~2024년 758% 급증했다.
전자상거래뿐 아니다. 더트랜스패런시컴퍼니가 지난해 12월 주택·법률·의료 7300만개의 후기를 조사했더니 14%가 가짜로 추정됐다. 2023년 6월 이후 AI 가짜 후기가 매달 80%씩 증가했으며, 연간 3000억달러(약 422조 5500억원) 규모의 소비자 피해가 발생하는 것으로 추산됐다.
마이크로소프트(MS) 등은 별점 5점과 3점 등과 같이 평가 기준만 달리 요청하면 똑같은 제품에 대해서도 전혀 다른 평가의 후기를 동시에 만들 수 있으며, 내용도 구체적인 사용감부터 재료 분석까지 매우 정교하다고 지적했다.
“돈안주면 나쁘게 작성” 체험단 마케팅 악용까지
AI 후기 작성이 심화하면서 다양한 부작용도 나타나고 있다. 체험단 마케팅의 경우 AI로 후기를 작성한 뒤 무료 상품만 챙기는 경우가 늘어 신뢰성이 흔들리고 있다. 뉴욕타임스(NYT)는 돈을 지불하지 않으면 나쁜 후기를 작성할 것이라고 위협·협박하는 사례도 늘고 있다고 전했다.
이에 따라 소비자 신뢰도 추락하고 있다. 다양한 연구에서 많게는 93%까지 제품·서비스 품질을 판단하기 위해 온라인 리뷰를 활용하고 있는 것으로 나타났는데, 아마존은 이용자 중 49%가, 구글은 40%, 옐프는 23%가 후기가 가짜이거나 조작됐을 것으로 의심하는 것으로 조사됐다.
AI 작성 텍스트 탐지업체 팬그램랩스가 아마존 10가지 카테고리에서 베스트셀러 500개 상품 리뷰 3만건을 분석한 결과에선 최소 3%가 AI로 작성됐으며 이 가운데 74%가 최고 평점인 별점 5점을 부과했다. 별점 1점을 준 비중은 10%에 그쳤다. 조사 대상 중 93%는 ‘구매 인증’ 배지를 달고 있었다.
|
AI vs AI…아마존·구글 등 AI 탐지 시스템 도입·대응
연말 쇼핑 성수기를 맞아 피해를 막기 위해 주요 글로벌 기업들이 AI 기반 탐지 시스템 도입에 총력전을 펼치고 있다. 대부분 기업들이 AI 탐지 시스템을 도입해 맞대응하고 있다. 즉 AI대 AI 싸움이 벌어지고 있는 셈이다.
아마존은 머신러닝 모델을 활용해 수천개 데이터 포인트를 분석하고, 후기 작성자와 다른 온라인 계정과의 관계, 로그인 활동, 비정상적인 행동 등을 종합 검토해 가짜 후기를 차단하고 있다. 이 회사는 2023년 2억 5000만개, 지난해 2억 7500만개 이상의 의심스러운 후기를 사전 차단했다. 가짜 후기 브로커 150개 사이트도 폐쇄했다.
구글은 AI 탐지와 매뉴얼 검수를 병행하고 있으며, 지난해 2억 4000만개 이상의 후기를 삭제 또는 차단했다. 메타는 AI 활용 크로스체크 시스템과 더불어 안면 인식 기술을 도입해 탐지를 강화했다. 알리바바(타오바오·티몰)는 자체 AI 탐지를 통해 지난해 8월 기준 리뷰 조작 사례 12만건을 적발, 직접 벌금 및 계정 정지 조치를 내렸다. 틱톡, 쇼피, 트립어드바이저, 옐프 등도 AI 기반 자동 검증과 신규 신고 시스템을 도입 중이다.
이와 별도로 아마존, 구글, 부킹닷컴, 익스피디아, 글래스도어, 트립어드바이저, 트러스트파일럿 등은 지난해 ‘신뢰있는 후기 연합’(Coalition for Trusted Reviews)이라는 공동 대응 체계도 마련했다.
법적 대응도 강화하는 추세다. 미국 연방거래위원회(FTC)는 AI 생성 후기를 포함한 허위 온라인 후기를 불법으로 규정하고, 위반시 건당 최대 5만 1744달러(약 7300만원)의 벌금을 부과하는 새 규정을 도입했다.
전문가들과 업계 관계자들은 “AI 기술 발전 속도에 탐지 시스템이 따라가기 어려운 상황이다. 최근엔 사람이 쓴 것처럼 생생한 후기도 적지 않다”며 “소비자들이 후기만 맹신하지 말고 다양한 정보를 종합해 구매 결정을 내려야 한다. 연말 쇼핑 시즌을 맞아 소비자들의 경각심이 그 어느 때보다 중요한 시점”이라고 당부했다.
