내년 1월 11일부터 진행되는 이번 테스트는 AI 윤리를 점검하고, 사용자 의견을 받아 서비스를 고도화하기 위한 것이다. 지난해 12월 출시된 이루다는 소수자 혐오, 성차별 발언 등으로 논란을 빚으며 올 1월 서비스가 잠정 중단됐다.
이후 스캐터랩은 AI 기술과 제품 개발 전반에 걸쳐‘사람을 위한 AI 개발’ ‘다양한 삶의 가치 존중’ 등 5가지 AI 챗봇 윤리 준칙을 제정하면서 신뢰할 수 있는 AI 모델 개발에 역량을 집중해왔다. 이런 윤리 원칙을 바탕으로 고도화시킨 이루다 2.0은 개인정보 보호를 강화할 수 있도록 딥러닝 알고리즘이 생성한 문장으로 답변한다.
대화 시 특정 단어 뿐 아니라 문맥을 탐지해 선정적이거나 공격적, 편향적 문장에 대응할 수 있는 ‘어뷰징 탐지 모델’을 접목한 것도 특징이다. 학습 과정은 가명 처리한 데이터베이스로 이뤄졌다. 스캐터랩은 다음달 4일까지 이루다 페이스북 페이지를 통해 신청을 받아 약 3000명의 테스트 대상자를 선정할 예정이다.
베타 테스터로 선정된 사용자는 1월 11일부터 약 3주간 이루다 2.0과 자유롭게 대화하며 AI 챗봇이 대화 문맥을 이해하고 적절하게 답변하는지 등을 검토하게 된다. 단, 베타 테스터는 이루다 2.0과 대화 경험을 외부에 공개해선 안 된다.
스캐터랩은 “클로즈 베타 테스트를 통해 AI 챗봇과의 대화 경험을 사용자 눈높이에서 바라보고, 사용자 의견 및 개선 사항 등을 점검한 후 내년 이루다2.0의 공식 출시 일정을 결정할 예정”이라고 했다.