“아이폰 통화녹음, 외국인과 통화시 자동 통역”…SKT, 멀티LLM 전략

[이데일리 김현아 전선형 기자]

[그래픽=이데일리 김정훈 기자]

SKT가 26일 AI개인비서 ‘에이닷(A.)’을 정식으로 론칭했다. 지난해 5월 베타서비스를 시작한지 1년 4개월 만이다.

SKT AI 사업전략 기자간담회’에서 Q&A를 진행하는 모습. 왼쪽부터 류수정 사피온 대표, SKB 최성균 DC CO담당, SKT 김지원 대화 담당, SKT 정석근 글로벌/AITech 사업부장, SKT 유영상 사장(가운데), SKT 김용훈 AI서비스사업부장, SKT 김경덕 엔터프라이즈 CIC장, SKT 한명진 최고전략책임자, SKT 하민용 최고사업개발책임자다. 사진=SKT

SK텔레콤(대표 유영상)이 26일 AI개인비서 ‘에이닷(A.)’을 공식으로 론칭했다. 이는 베타서비스를 시작한 지 1년 4개월만이다. ‘에이닷’은 국내 최초의 거대언어모델(LLM)기반 에이전트 서비스로, 처음에는 캐릭터와 대화하는 ‘친구 컨셉’이었으나, 이후 ‘나만의 AI비서’를 목표로 바뀌었다. 연내에는 아이폰을 포함한 통화녹음과 요약, AI수면관리, AI증권·뉴스, AI모션 프로필이 가능하며, 내년 중에는 외국인과 통화할 때 자동통역이 되는 AI통역 전화나 및 AI모빌리티, AI뮤직홈 기능도 추가될 예정이다.

특히 아이폰 이용자들을 위해 에이닷은 아이폰 통화녹음 기능도 제공한다. 김용훈 AI서비스사업부장은 “전화는 가장 기본적인 커뮤니케이션 수단이나 끊고 나면 주고받던 많은 정보들이 휘발된다. 에이닷의 통화녹음과 요약 기능으로 효용을 높일 수 있을 것”이라고 했다. 이를테면 미팅 일정 같은 내용을 전화로 말하면 나중에 미팅 참여자와 장소를 요약해주는 식이다. 그는 “안드로이드는 이미 가능하고 아이폰도 저희가 보안 기능을 강화해 곧 출시될 예정”이라고 했다.

한국어·영어·일본어·중국어 등 4개국어를 지원하는 AI통역 전화도 준비 중이다. 올해 상반기 외국인 입국자가 433만 명, 같은 시기 내국인 출국자가 993만명(한국관광공사)이나 되는데, 아직도 외국인과 말로 통화하기엔 부담스러운 게 사실이다. 김 사업부장은 “AI기술 진보를 통해 통역과 번역 같은 건 해결될 것”이라며, 외국에 있는 호텔을 외국인 직원과 통화하면서 한국어로 예약하는 걸 시연했다. AI통역전화는 올해 12월 런칭이 목표인데, 내년부터 본격화될 전망이다.

이밖에도 에이닷은 잠잘 때 켜두면 수면관리를 해주거나, 지하철이나 버스 같은 모빌리티 정보를 제공하는 것, 내가 좋아하는 음악만 골라들을 수 있는것도 추진 중이다. 유영상 SKT 대표는 “지금까지의 에이닷은 70점정도 였지만, 앞으로 글로벌 빅테크들의 격전장인 AI비서 시장에서 확실한 위치를 확립할 것”이라고 자신했다.

에이닷이 AI개인비서로 진화할 수 있게 된 것은 언어를 명령어로 하는 생성형AI 시장이 열린 덕분이다. 그런데 SKT는 에이닷과 관련, 1단계로 앤트로피·오픈AI를, 2단계로 자체 LLM(A.X LLM)을 적용하는 등 여러 개의 LLM 모델을 쓰는 멀티LLM 전략을 구사한다.

KT 유영상 대표가 26일 SK T타워 수펙스홀에서 열린 ‘SKT AI 사업전략 기자간담회’에서 키노트를 발표하고 있는 모습.

SKT 정석근 글로벌/AITech 사업부장이 발표를 진행하는 모습

유영상 대표는 “한국어, 토종 LLM만으로 성공할 수 있다고 생각하지 않는다”면서 “우리는 자체 LLM과 함께, 앤트로픽·오픈AI 등과 제휴해 45개국 12억명을 상대로 하는 글로벌 통신사향 LLM을 만들고 에이닷 등에 적용할 예정”이라고 했다.

네이버 클로바 총괄을 하다가 이직한 정석근 글로벌/AITech 사업부장도 동의했다. 정석근 사업부장은 SKT에서 도이치텔레콤·e&, 싱텔 등과 함께하는 글로벌 통신사 특화 LLM 및 인텔리전스플랫폼 개발을 주도하고 있다.

정석근 사업부장은 “SKT는 AI를 진심으로 하는 회사”라면서 “챗GPT가 나왔을 때와 달리 지금은 LLM자체보다는 어떤 업무에 어떤 사이즈의 LLM을 쓸 지 결정하는게 중요하다. 여러 개의 LLM을 운영하는 ‘글로벌 AI 플랫폼컴퍼니’가 그것”이라고 했다.

생성형AI가 지금은 채팅봇 형태나 검색 서비스 보완으로 자리매김하고 있지만, 현재 가장 큰 시장은 AI인프라 시장이다. 수많은 사람이 금을 찾아 캘리포니아로 골드러시할 때 정작 돈을 번 사람들은 곡괭이와 청바지를 판 사람들이었듯이, 생성형AI 시대 돈 버는 곳은 그래픽처리장치(GPU)를 파는 엔비디아인 것이다.

SKT는 SK브로드밴드와 함께 생성형 AI에 특화된 데이터센터를 구축하고, 연말에는 투자회사인 사피온을 통해 추론용 AI 칩 ‘X330’을 발표할 계획을 공식화했다. 유영상 대표는 “데이터센터의 에너지 절감을 돕는 액침냉각 시스템, 수소 연료전지 등의 에너지 솔루션을 도입하고, 여기에 사피온의 신경망 처리장치(NPU)와 하이닉스의 고대역폭 메모리(HBM)를 패키징하여 더 높은 마진율을 내는 AI 호스팅 사업으로도 확장해 나갈 방침”이라고 했다.

김경덕 엔터프라이즈 CIC장이 발표를 진행하는 모습.

SKT는 AI 응용서비스에서 주목받는 기업시장(B2B)에 대한 전략도 밝혔다. 김경덕 엔터프라이즈 CIC장은 기존에 했던 솔루션 사업에 생성형AI를 접목해 2020년 1500억원 매출을 2028년에는 1조원으로 만들겠다고 자신했다.

김 엔터프라이즈 CIC장은 “기업고객들의 90%가 AI 도입을 희망하지만 투자대비 효과를 증명하지 않으면 안된다”면서 “통신사, 반도체, 자동차 등 제조사, 증권과 은행 같은 금융사업들의 요구 사항이 달라 우리는 멀티 LLM으로 고객별 커스터마이징을 할 것”이라고 했다.

이를테면 공공시장은 자체 모델(A.X LLM)과 코난테크놀로지 것을, 서비스형소프트웨어(SaaS)쪽은 오픈AI와 앤트로픽, 올거나이즈 것을 활용하는 전략이다. 그는 “SKT는 생성형AI가 나오기 전부터 ML 오퍼레이션의 최고급 엔지니어풀을 갖고 있고, 비전AI와 빅데이터AI 분야 등에서 이미 15가지 솔루션을 갖고 있다”면서 “기존 AI사업과 비즈니스모델에 LLM을 활용하는 것”이라고 했다.

김지원 대화 담당이 발표를 진행하는 모습

멀티LLM의 장점

자체 모델도 고도화한다. 자체 모델(A.X LLM)을 맡고 있는 김지원 담당은 “우리는 2019년부터 세계 최대 규모의 한국어 데이터를 확보하고 2020년 최초의 생성형 한국어모델을 내놔 글로벌 AI플랫폼인 허깅페이스 기준 누적 173만명이 다운받았고, 2021년부터 GPT3기반 내재 모델 개발에 착수해 그해 7월 확보했다. 지금은 이미지나 영상 등을 포함하는 멀티모달 등 자체 모델 고도화와 LLMOps플랫폼(LLM Operations·지능형플랫폼)구축에 나서고 있다”면서 “한국어 데이터로 학습한 덕분에 전라도 사투리 구현이 다른 채팅봇보다 자연스럽다”고 설명했다.

김지원 담당은 “앞으로의 추세는 고객 맞춤형 LLM인데, 저희는 여러개의 LLM을 운영하는 인텔리전스 플랫폼으로 진화해 고객별로 최적의 모델을 제공할 수 있다”고 강조했다.