|
리벨리온은 자사 NPU가 에이닷 통화요약을 시작으로 에이닷 음성합성기능, AI 고객센터(AICC), ‘스캠뱅가드’ 미끼문자 탐지 기능 등 SKT의 4개 핵심 서비스에 적용됐다고 21일 밝혔다.
양사는 지난해 6월 SKT 주요 AI 서비스에 국산 NPU를 적용하기 위한 테스트에 착수한 바 있다. 이후 같은 해 12월 에이닷 통화요약의 ‘관계추정 기능’에 리벨리온의 AI 반도체 ‘아톰맥스(ATOM-Max)’ 기반 서버가 처음 상용 적용됐으며, 반년 이상 안정 구동을 이어왔다.
리벨리온은 올 6월부터 순차적으로 △에이닷 통화요약 ‘한 줄 요약 기능’ △에이닷 ‘음성합성기능(스트리밍 TTS)’ △AICC ‘상담 후처리 및 검색 시스템’ △스캠뱅가드 ‘미끼문자 탐지 기능’으로 적용 범위를 넓혔다.
현재 이들 4개 서비스에서 리벨리온 인프라가 처리하는 실시간 AI 트래픽은 하루 약 1400만 건으로, 토큰 기준 하루 40억 개를 상회한다. 이는 글로벌 기업들의 대규모 상용 AI 운영 사례와 견줄 수 있는 규모다.
기술 측면에서도 저지연·고성능 연산 능력을 바탕으로 텍스트 생성과 동시에 문장 단위로 음성을 합성하는 스트리밍 TTS 등 고난도 실시간 서비스를 안정적으로 구동하고 있다. 글로벌 표준 AI 개발·배포 환경을 지원해 스캠뱅가드가 서비스 중단 없이 신종·변종 사기 문자 탐지 모델을 즉시 적용할 수 있도록 돕는다.
SKT는 리벨리온 NPU 도입을 통해 AI 모델의 크기와 성능 특성에 따라 GPU와 NPU를 재배치함으로써 컴퓨팅 자원을 효율화했다. 아울러 NPU 수십 대와 카드 수백 장을 묶은 ‘NPU 팜(Farm)’을 구성해 사내 여러 서비스가 동일한 자원을 공유하는 방식으로 인프라 운영 효율을 높였다.
박성현 리벨리온 대표는 “지난 1년은 국산 NPU가 ‘가능성’에서 ‘검증된 인프라’로 넘어온 시간이었다. 국민이 매일 쓰는 서비스 4개가 리벨리온 인프라 위에서 안정적으로 돌아가고 있다는 사실이 무엇보다 확실한 증거”라며 “앞으로도 대규모 상용 운영 실적을 바탕으로 국내외 AI 서비스의 저변을 넓혀 나가겠다”고 전했다.
박병관 SKT Core플랫폼담당은 “AI 컴퓨팅 수요가 증가함에 따라 GPU뿐만 아니라 리벨리온의 NPU를 적극 도입하여 활용하고 있다. AI 서비스 태스크별 특성에 맞춰 GPU와 NPU를 선별적으로 활용 및 재배치해 전사 AI 자원 활용의 효율성을 높였다”며 “앞으로도 NPU팜을 확대하여 국산 NPU 반도체 활용 시너지를 극대화하고, 사내외 AI 컴퓨팅 수요에 기민하게 대응할 예정”이라고 밝혔다.
리벨리온은 SKT의 AI 파운데이션 모델 ‘A.X K1’ 구동에 이어 이번 상용 서비스 확대까지 성공하며, 향후 금융·통신·공공 등 다양한 산업 영역으로 NPU 인프라 공급을 확장해 나갈 계획이다.
