스팸·보이스피싱도 온디바이스AI로 차단…삼성·SKT도 ‘준비’

[이데일리 임유경 기자] 올 하반기부터 인공지능(AI)이 실시간으로 보이스피싱 사기로 의심되는 대화를 감지하고, 불법 스팸 문자도 자동으로 걸러주는 서비스가 출시된다. 단말기 내부에서 작동하는 ‘온디바이스 AI’를 활용해 개인의 통화나 문자 내용이 외부로 노출될 위험을 원천 차단하면서 프라이버시 침해 이슈도 해결했다.

3일 IT 업계에 따르면 SK텔레콤(017670)은 과학기술정보통신부, 개인정보보호위원회와 협력해 하반기 중 보이스피싱 탐지 예방 AI 서비스를 출시할 예정이다.

해당 서비스는 실시간 통화 중 보이스피싱에 사용되는 주요 키워드나 패턴을 탐지하는 것은 물론 대화의 문맥을 토대로 보이스피싱 수법을 판별해 본인이나 가족에게 알림을 보낸다. 예컨대 사기범이 “중앙지방검찰청 000수사관입니다. 00은행 계좌가 지금 범죄에 연루된 것 같아 수사하다 연락드렸습니다”라고 할 경우 AI가 수사관 사칭 수법임을 인지하고, 본인과 자녀 등에게 ‘보이스피싱 의심’ 알림을 보낸다.

SK텔레콤이 실시간 통화를 온디바이스 AI로 분석해 보이스피싱 위험을 경고하는 기능을 하반기 중 선보인다.(사진=SK텔레콤)

SKT는 통화 데이터가 서버로 전송되지 않고 단말에서 처리되는 온디바이스 AI 기술을 적용해 서비스를 구현한다는 계획이다. SKT 관계자는 “자사 에이닷부터 투자사인 앤트로픽의 클로드까지 여러 언어 모델 중에 기기에 탑재하기 가장 적합한 것을 선정해 관련 데이터를 학습시킨 소형언어모델(SLM) 형태로 개발할 계획”이라고 말했다.

SKT가 학습시킬 SLM은 AI가 유의미한 성능을 확보할 수 있도록 관련 기관에서 데이터를 제공 받는다. 국과수가 약 2만1000건의 통화데이터를 텍스트로 변환했고, 개인정보위원회와 한국인터넷진흥원(KISA)의 자문을 받아 피해자의 이름, 계좌번호 등 민감한 정보를 안전하게 비식별처리했다.

삼성전자(005930)도 올 하반기부터 KISA와 협력해 갤럭시 스마트폰에서 스팸을 자동으로 차단해주는 온디바이스 ‘악성 문자 필터링’ 서비스를 선보인다. KISA는 신고받은 불법스팸 정보(발신번호, 회신번호, 공문상 URL, 키워드 등)를 종합적으로 분석해서 추출·검증한 뒤, 이 데이터를 삼성전자에 전달한다. 삼성전자는 소프트웨어(SW) 업데이트를 통해 기기에 배포하고 불법 스팸으로 의심되는 문자를 자동 차단할 수 있게 할 계획이다. 올해 하반기 출시되는 ‘갤럭시 Z 폴드6·플립6’부터 적용되고, 기존 삼성 스마트폰에도 SW 업데이트를 통해 적용될 것으로 보인다.

구글이 안드로이드에 제미나이 나노 기반 ‘스캠(사기) 의심’ 경고 기능을 탑재할 예정이다.(사진=구글)

스팸, 스캠(사기) 차단에 온디바이스 AI를 활용하려는 움직임은 글로벌에서도 이뤄지고 있다. 구글은 최근 연례 개발자 콘퍼런스 구글 I/O에서 자사 sLM ‘제미나이 나노’를 활용해 통화 중 사기 가능성이 의심되는 대화 패턴을 감지해 이용자들에게 실시간으로 경고할 수 있는 기능을 테스트하고 있다고 밝히며 관련 기능을 시연해 보였다. 은행 담당자를 사칭하며 긴급 이체, 기프트카드 결제, 개인식별번호(PIN) 및 비밀번호 공유 등 일반적이지 않은 은행 업무 관련 요청을 할 경우 이용자에게 ‘스캠 가능성’ 경고 알림이 가는 식이다. 이 기능은 온디바이스 AI로 제공되기 때문에 프라이버시 침해 우려가 없다는 점도 강조했다. 구글은 연말 제미나이 나노의 사기 방지 기능에 대한 구체적인 내용을 공개할 예정이다.