"성희롱·혐오 부작용…법체계 마련 등 '공존 준비' 서둘러야"

by신중섭 기자
2022.02.24 05:06:30

[이데일리 신중섭 기자] 산업계 전반에 ‘가상인간’ 열풍이 불고 있다. 전문가들은 가상인간과의 ‘공존’이 본격화하기에 앞서 윤리 문제를 포함한 관련 부작용에 대해 대비해야 한다고 조언한다. 향후 관련 윤리 기준이나 법체계 마련까지 이어지기 위해 서둘러 준비 작업에 돌입해야 한다는 의미다.

메타에서 운영하는 가상현실(VR) 플랫폼 호라이즌 월드는 지난 4일부터 아바타 간 성추행 등을 방지하기 위해 4피트(1.2m) 거리의 안전 거리를 적용했다.(사진=호라이즌)

23일 업계에 따르면 최근 가상 인간이 광고 모델은 물론 가수나 디자이너, 쇼호스트, 앵커까지 다양한 분야로 활동 영역을 넓혀가면서 이에 따른 부작용 우려도 커지고 있다.

요즘 화제가 되고 있는 싸이더스스튜디오엑스의 로지나 LG전자의 김래아와 같이 인간의 외모까지 본뜬 ‘가상 인플루언서(influencer)’의 형태는 아니었지만, 지난해 가상 인간에 대한 사회적 큰 논란이 불거진 바 있다. 바로 인공지능(AI) 챗봇 서비스인 ‘이루다 사태’다.

지난 2020년 12월 말 소개된 이루다는 공개와 동시에 폭발적 인기를 끌었으나 성희롱·혐오 발언, 개인정보 유출 등 논란에 휩싸이며 결국 20여일 만에 서비스를 잠정 중단했다. 특히 일부 사용자들이 20대 초반 여성으로 설정된 이루다에게 성희롱·혐오 발언을 하는 사례가 생겨났고, 이루다 역시 사용자들의 대화 데이터를 학습하며 점점 더 인간에 가까워지는 ‘딥러닝’ 알고리즘으로 이러한 내용을 학습·사용하며 윤리 문제가 도마 위에 올랐다.



최근에는 메타버스(metaverse·가상 세계) 속 아바타를 대상으로 한 성범죄도 또 하나의 논란거리가 되고 있다. 아바타도 가상 세계 속 캐릭터이긴 하지만, 실존하는 서비스 이용자의 ‘분신’으로 쓰인다는 점에서 문제가 더 복잡하다.

실제로 비영리단체 디지털 혐오 대응센터(CCDH)에 따르면 이 단체 연구원들이 지난해 12월 페이스북의 모회사인 메타의 가상세계 애플리케이션(앱)에 11시간 30분 동안 접속한 결과, 성희롱과 학대 등 100여 건의 앱 정책 위반 사례를 발견했다. 이에 메타는 이달부터 메타버스 서비스인 ‘호라이즌 월드’와 ‘호라이즌 베뉴’ 고객의 아바타 주위에 5피트(약 1.2m)의 거리감이 느껴지도록 하는 ‘개인 경계선(Personal Boundary)’을 부여하기로 했다.

전문가들은 가상 인간과의 ‘공존’을 서둘러 준비해야 한다고 입을 모은다. 특히 윤리 기준이나 법체계를 마련하기에 앞서 현상을 면밀히 분석하는 작업부터 진행해야 한다는 지적이다. 고학수 서울대 법학전문대학원 교수는 “법체계 마련을 논하기에 앞서 어떤 형태로 성희롱 등 윤리적 문제가 나타나는지 사실 관계와 현황을 조사해야 한다”며 “대응 방향은 플랫폼에 따라, 애니메이션인지 또는 텍스트인지에 따라서도 달라질 수 있다”고 설명했다. 그러면서 “데이터베이스 축적을 통한 필터링과 기술 고도화 등 기초적인 대응뿐만 아니라 학계·기업이 머리를 맞대 현상을 자세히 분석해야 할 것”이라고 강조했다.