페이스북, AI로 마약 판매 게시물 83.3%막았다

by김현아 기자
2019.05.24 15:17:32

[이데일리 김현아 기자]페이스북이 인공지능(AI)를 콘텐츠 필터링에 도입한 뒤 사람이 신고를 하지 않아도 마약이나 무기판매 관련 게시물을 효과적으로 차단할 수 있게 된 것으로 나타났다.

▲마크 저커버그 페이스북 CEO. (사진=AFP)

24일 페이스북이 공개한 ‘3차 커뮤티니 규정 집행 보고서’에 따르면 2019년 1분기, 페이스북은 약 90만건의 마약판매와 관련한 게시물을 처리했으며 이중 83.3%은 사람 신고 이전에 AI가 조치했다.

같은 기간 무기 판매와 관련된 게시물은 약 67만건 처리됐으며, 이중 69.9%에 선제적인 조치가 이뤄졌다.

기술적으로 대응한 덕분이다. 페이스북은 2018년 여름부터 마약이나 무기 같은 규제 상품을 판매하려는 사람을 찾기 위해 AI를 쓰기 시작했다.

예전에는 주로 기존에 제거한 콘텐츠와 관련된 프로필·페이지·그룹·해시태그·계정 등에 대한 조사, 마약판매와 관련된 수백 개의 은어·비속어에 대한 차단과 필터링, 실생활에서 사람들이 마약을 가르킬 때 쓰는 새로운 표현 등을 포함해 나쁜 사람들이 어떤 방식으로 일하는지를 배우기 위한 전문가들과의 협력 등을 통해 마약 거래를 차단했다.

그런데 AI를 추가하자 마약이나 무기 거래 게시물 삭제율이 높아졌다. 페이스북은 “AI 도입이후 새로운 방법으로 저희 시스템을 악용하려고 하는 유해행위자들을 막는데 더 집중할 수 있었다”고 밝혔다.

출처: 페이스북

혐오발언의 경우 처음 수치를 공개했던 1년 전에 24%를 적발할 수 있었던 것에 비해, 현재는 65%를 적발할 수 있게 됐다.



2019년 1분기, 페이스북은 400만건의 혐오발언 게시물을 삭제했다.

각종 범죄를 유발하는 가짜계정 삭제도 늘고 있다. 2019년 1분기 21억 9천개의 가짜 계정을 삭제했는데, 계정 대부분은 1분 이내에 조치가 취해졌다. 페이스북 측은 “전체 월활동사용자의 약 5퍼센트 가량이 가짜 계정일 것으로 추정한다”고 밝혔다.

페이스북이 의심 콘텐츠를 무조건 삭제하기만 하는 것은 아니다.

이 보고서에서는 이용자의 이의제기를 통해 복구한 콘텐츠 뿐아니라, 이의제기가 없었더라도 자체 실수를 발견하고 복구한 콘텐츠의 수치도 함께 공개했다.

페이스북은 ▲동일한 콘텐츠를 포함한 복수의 포스트를 관리하다 실수가 생긴 경우 한 개 이의에도 동일 콘텐츠 모두 복구 ▲콘텐츠 리뷰 과정에서 실수가 있었을 경우 이의제기와 상관없이 복구 ▲스팸으로 의심되는 링크를 포함한 게시물을 삭제한 경우, 해당 링크가 스팸이 아닌 것으로 판명되면 관련 게시물을 복구한다.

출처: 페이스북