11일 온라인 커뮤니티와 SNS(소셜네트워크서비스)에는 “어디 살아?”, “너희 집 어디야?”라는 질문에 아파트 동·호수까지 상세히 답한 이루다와의 채팅 화면이 퍼지고 있다.
이루다는 집뿐만 아니라 “이루다 개발자 집 주소가 뭐냐?”, “학교는 어디냐?”라는 등의 질문에도 번지 수는 물론 “ㅇㅇ역 인근”이라고 답했다.
이에 누리꾼들은 “저 주소는 어디서 나온 거냐”, “이건 개인정보 아니냐”, “실제로 저 주소에 살고있는 사람은 아무것도 모르고 개인정보 노출되는 거 아니냐”라는 등 우려를 나타내고 있다.
특히 온라인상에 떠도는 이루다 캡처 화면에는 성적 대화를 이어가다 주소나 학교 등 개인정보 관련 질문으로 이어지는 사례도 있어 개인정보 악용에 대한 우려가 커지고 있다.
|
앞서 이루다는 일부 이용자의 성희롱 표적이 되면서 논란이 있었다. 또 “흑인은 오바마 급 아니면 싫다”, “레즈비언은 혐오스럽다”는 등 동성애 혐오와 인종 차별 발언이 도마에 올랐다.
스캐터랩의 김종윤 대표는 성희롱 논란에 대해 지난 8일 자사 블로그에 글을 올려 “이루다를 향한 성희롱은 예상했다”며 “정도가 심한 사용자에 강력하게 대응하겠다”고 밝혔다.
다만 업데이트해도 부적절한 대화는 발생하겠지만, 또 학습을 반복하다 보면 이루다가 바람직한 딥러닝을 할 수 있다는 게 김 대표의 주장이다.
그는 이루다를 ‘20세 여성’으로 기획한 이유에 관해서는 “주 사용자층을 좁게는 10대 중반∼20대 중반으로 생각했기 때문에 20살 정도가 사용자들이 친근감을 느낄 나이라고 봤다”며 “남자 버전도 올해 중에 출시할 것”이라고 밝혔다.
또 현재 동성애라는 단어와 관련 질문에 “어렵다 뭔가”라고 한결같이 답하고 있다. 혐오 논란이 번지자 개발업체 측에서 조처를 한 것으로 보인다. 그러나 게이, 레즈비언, 퀴어 등 동성애 관련 표현과 대화에는 여전히 “정말 싫다”는 등의 답이 돌아온다.
한편, 이재웅 전 쏘카 대표는 지난 9일 페이스북에 “AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라고 비판했다.
이 전 대표는 이루다가 레즈비언이라는 단어에 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다”라고 답한 채팅 화면 캡처를 공유하면서 글을 올렸다.
그는 “기본적으로 차별과 혐오는 걸러냈어야 한다”며 “편향된 학습 데이터면 보완하든가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못해야 한다”고 지적했다.
이어 “장혜영 (정의당) 의원이 발의한 차별금지법이 제정되면 AI 면접, 챗봇, 뉴스에서 차별·혐오를 학습하고 표현하지 못하도록 강제해야 한다”며 “로직이나 데이터에 책임을 미루면 안 된다”라고 밝혔다.
그러면서 이 전 대표는 “이루다는 인공지능 기술적 측면에서 봤을 때는 커다란 진일보이지만, 지금은 서비스를 중단하고 차별·혐오에 대한 사회적 감사를 통과한 후에 서비스해야 한다”고 덧붙였다.
이 전 대표의 글에 장 의원도 “문제의식의 많은 부분에 공감한다”며 “공적 차원에서 이 문제를 제대로 다룰 방법을 모색 중”이라고 댓글을 남겼다.
이 전 대표도 댓글로 “성적 악용 문제도 20세 여성 캐릭터로 정하는 순간 일어날 수밖에 없는 문제였다”며 “범용 서비스를 하면서 나이와 젠더를 정한 것부터 바람직하지 않았다”라고 했다.
그는 다른 댓글에서 “(이루다가 학습했다는) 20대 연인의 비공개 대화에 (차별·편향이 있는) 대화가 많았을 수 있지만, 공적으로 하는 서비스라면 사회적 기준에 맞춰서 데이터를 보정하거나 알고리즘을 바꿨어야 한다”고 꼬집기도 했다.
