당근마켓 아기 사건, 어떻게 재발 막나…"AI필터 고도화할 것"

by장영락 기자
2020.10.19 20:24:42

[이데일리 장영락 기자] 중고거래 플랫폼 당근마켓에 36주된 아이를 20만원에 거래하겠다는 게시글이 올라와 논란이 된 가운데 재발 방지를 약속했다.

당근마켓 측은 19일 입장을 내 AI 기술 개선 등으로 이번과 같은 사태가 제발되지 않도록 하겠다고 밝혔다. 회사 측은 신고가 들어온 직후 해당 글을 비공개조치했다.

회사 측은 “이상 패턴을 보이거나 정상 범주를 벗어나는 것으로 분석될 경우 이를 사전 필터링할 수 있는 인공지능(AI) 기술을 고도화할 것”이라며 “중장기적 투자와 기술적 방안을 강구할 예정”이라고 설명했다.

현재도 거래 금지 물품의 경우 인공지능 모니터링을 이용해 걸러내고 있으나 이에 미치지 못하는 부분을 보완하도록 하겠다는 것이다.

회사 측은 “긴급 상황에 더 빠르게 대응할 수 있는 모니터링 프로세스도 연구하고자 한다. 선제적 방지를 더 강화하기 위해 긴급 논의를 통해 여러 방안을 모색 중”이라고 설명했다.

또 “기술이 유례없는 모든 긴급 상황을 대비할 수 없다 하더라도, 항시 기술적·정책적으로 최선의 노력을 다해 이용자에게 안전한 이용 환경을 제공하도록 힘쓰겠다”고 덧붙였다.



당근마켓에서 모니터링되는 게시글들은 반려동물, 주류, 가품 등이다. 이같은 물품이 등록될 경우 인공지능 필터링, 또 인력 직접 모니터링 등으로 게시글이 제재된다.

당근마켓이 현재 쓰고 있는 인공지능의 경우 이미지를 분석해 거래금지 품목인지 확인하는 과정도 데이터를 축적해 학습하고 있으나, 이번과 같이 영아가 거래글로 올라오는 극단적인 사례는 학습되지 못한 것으로 보인다.

당근마켓 측은 “이번에 벌어진 일은 누구도 상상할 수 없는 안타까운 일로, 완벽한 기술적 대응은 불가능한 영역에 가깝다고 본다”면서 “기존 시스템의 발 빠른 대응으로 등록 8분 만에 미노출 처리를 완료했다”며 최선의 대응을 했다고 해명했다.

문제의 글은 16일 오후 6시36분쯤 당근마켓 서귀포시 지역 카테고리에 등록됐다. ‘아이 입양합니다. 36주 되었어요‘라는 제목의 글에서 작성자 A씨는 아이 사진과 함께 판매 금액 20만원을 책정했다.

당근마켓은 이후 다른 이용자 신고를 접수하자마자 바로 A씨에게 삭제 요구 메시지를 보내고 게시글을 비공개 처리했다. A씨는 영구탈퇴 조처했다.

경찰 조사 결과 A씨는 미혼모인 상태에서 생활고에 몰리면서 이같은 일을 저질렀던 것으로 드러났다. 경찰은 A씨가 산후조리원에서 퇴소하면 아동복지법 위반 여부 등을 조사할 방침이다.