층간소음 고민에 "에어프라이어 좋아요" 댓글…커뮤니티 침투한 AI

[이데일리 이유림 기자] 직장인 최모(33) 씨는 최근 네이버의 한 카페에 윗집과의 층간소음에 대한 고민을 털어놓는 글을 올렸다가 황당한 경험을 했다. 글을 올린지 수초 만에 “저는 최근 에어프라이어를 구매했는데 삶의 질이 달라졌습니다. 추천드려요”라는 생뚱맞은 댓글이 달린 것. 최 씨는 “처음엔 다른 글과 착각했나 싶었는데 나중에 보니 인공지능(AI) 댓글이었다”며 “요즘 커뮤니티에 이런 글이 너무 많아서 진짜 사람들과 고민을 나누고 있는 게 맞는지 불쾌하고 무서운 생각까지 든다”고 토로했다.

1일 이데일리 취재에 따르면 최근 네이버 블로그와 카페 등 대형 커뮤니티 플랫폼 내에서 맥락과 맞지 않는 답변을 다는 AI 작성 글이 늘어나면서 이용자들의 불편이 커지고 있다. 과거 뉴스 댓글 창에서 인위적인 여론 형성을 위해 매크로가 동원되던 것을 넘어 이제는 일상적인 소통 공간인 커뮤니티까지 AI가 침투하고 있는 실정이다.

AI가 ‘자문자답’…마케팅 목적에 휘둘려

대형 커뮤니티에 게재되는 AI 작성 글을 보면 AI가 질문을 올리고 또 다른 AI 계정이 댓글을 다는 ‘자문자답’ 형태의 사례까지 확인되고 있다.

일례로 한 온라인 커뮤니티에서 특정 이용자가 다이어트 관련 게시글을 대량 등록한 정황이 포착됐다. 해당 계정은 ‘다이어트’, ‘효과’, ‘도움’ 등 특정 키워드가 반복되는 글을 하루에 수차례 올렸는데 서로 다른 내용의 게시글임에도 모든 글의 댓글 수가 ‘6개’로 동일하게 고정되어 있었다. 이를 발견한 다른 이용자가 “말투가 사람 같아서 더 무섭다”며 AI 작성 댓글 의혹을 제기했다.

이 같은 ‘AI 침투’ 현상은 마케팅과 계정 육성인 것으로 분석된다.

자연스러운 사람의 말투를 흉내 내어 커뮤니티 내에서 인지도와 활동 등급을 높인 뒤 특정 제품을 홍보하거나 추후 해당 계정을 광고업자에게 판매하려는 목적에서다. 과거의 단순 반복형 매크로 프로그램과 달리, 최근의 생성형 AI 기술은 실제 이용자와 구별하기 어려울 정도로 정교한 문장을 구사해 플랫폼의 필터링 시스템을 교묘히 피해 가고 있다.

나아가 카페·블로그 운영자가 AI를 활용하기도 한다. 카페의 회원 수나 게시글, 댓글 수를 늘려 활성도가 일정 수준을 넘어서면 배너 광고나 공동 구매 등 수익성 사업이 쉬워지기 때문이다.

(사진= 생성형 AI로 만든 이미지)

AI 활용 자동 댓글 작성 프로그램 판매도

커뮤니티 규모를 인위적으로 부풀리려는 수요가 맞물리면서 AI 게시글 및 댓글을 자동으로 작성해 주는 프로그램이 온라인상에서 공공연하게 유통되고 있다.

한 AI 자동화 프로그램 판매 업체 관계자는 “카페나 블로그를 빠르게 키우고 싶어 하는 분들이 주로 이용한다”며 “비용은 월 5만원이면 가능하다. 연간 계약시 40만원에 제공해줄 수 있다”고 말했다.

그는 “단순 댓글 도배에 그치지 않고 여러 개의 부계정을 동시에 돌리는 다중 계정 작업도 가능하다”며 “네이버의 필터링을 피하기 위한 인터넷 프로토콜(IP) 변경 기능도 있다”고 했다. 이어 “카페의 경우 가입자 수를 늘려주는 AI 프로그램도 별도로 서비스 중”이라고 말했다.

또 다른 관계자는 “요즘에는 정보의 양보다 ‘자연스러움’이 핵심”이라며 “문장 흐름이 너무 일정하거나 말투가 기계적으로 반복되면 읽는 사람도 금방 눈치를 챈다. 너무 완벽하게 정리된 글보다, 어느 정도 사람 냄새가 나는 글이 도리어 더 좋은 반응을 얻는다”고 귀띔했다.

플랫폼사인 네이버 역시 대책 마련에 부심하고 있지만 법적·기술적 장벽에 부딪혀 단속에 어려움을 겪고 있다.

네이버 관계자는 “AI 댓글은 기본적으로 AI가 사람의 언어를 학습해 인간과 비슷하게 문장을 만들어내는 구조”라며 “해당 텍스트의 작성 주체가 AI인지 사람인지 정확히 구분하기는 어렵다”고 말했다.

그러면서 “기본적으로 AI가 작성한 저품질 댓글 등은 스팸으로 분류해 지속 모니터링하고 있다”며 “매크로와 같이 비정상적으로 작성된 댓글에 대해서는 다양한 방안을 통해 조치를 고도화하고 있으며 앞으로도 해당 부분을 면밀히 살펴보겠다”고 덧붙였다.

유현재 서강대 커뮤니케이션학부 교수는 “이미 수많은 기업이 AI를 홍보·마케팅에 적극적으로 도입하면서 이제는 기술을 넘어 일종의 ‘인격’마저 느껴지는 수준에 이르렀다”고 했다. 유 교수는 “AI를 활용한 마케팅으로 문제가 발생하면 누구에게 책임을 물어야 할지 주체가 모호하다는 것이 맹점”이라며 “AI의 사회적 영향력이 커진 만큼 이를 뒷받침할 제도적 정비가 시급하다”고 강조했다.