SKT, 멀티 LLM 사업 추진...'생성형 AI 시장’ 공략

[이데일리 전선형 기자] SK텔레콤이 멀티 LLM(Large Language Model) 전략을 펼친다. 자체 개발한 LLM 에이닷과 엔트로픽, 코난 등의 LLM을 조합해 기업·공공용 맞춤형 서비스를 제공하겠다는 것이다.

SKT 기업 및 공공사업 담당 구성원들이 멀티LLM 교육을 받고 있다.(사진=SKT)

23일 SK텔레콤은 기업·공공용 ‘생성형 AI 시장’ 공략을 위한 ‘멀티 LLM(Large Language Model)’ 전략을 발표했다. 구체적으로는 △대화 및 고객센터 등 통신사 기반 서비스를 중심으로 자체 개발해온 에이닷 LLM과 △윤리적 답변 및 대용량 텍스트(Text) 입력에 강점이 있는 엔트로픽(Anthropic)사의 LLM △한국어 데이터가 풍부한 코난 LLM 등을 조합해 고객 맞춤형으로 제공하기 위한 기술 및 사업적 준비를 진행한다는 내용이다.

LLM 기본모델(Foundation Model)은 문서요약, 문서생성, Q&A등을 수행할 수 있는 기본 기능을 갖춘 AI 소프트웨어다. 기본 기능이 제대로 발휘 되려면 이 모델을 필요로 하는 고객사의 실제 데이터(주로 문서형태)를 넣어서 학습시키고 고객이 원하는 방향으로 조율(Tuning)하는 과정을 거쳐야 한다.

SK텔레콤은 우선 멀티 LLM전략의 일환으로 한국어 기반의 SKT 에이닷 LLM의 엔터프라이즈(Enterprise)용 기본모델(Foundation Model)을 이달 출시하고 고객사 대상 모델을 학습시키고 최적화 작업을 진행하고 있다.

또한 SK텔레콤의 지분투자 이후 다양한 분야에서 협력을 확대하고 있는 코난의 LLM도 활용하고, 지난 13일 지분 투자를 발표한 엔트로픽(Anthropic)사 LLM을 SKT의 주요 B2B(기업간 기업)서비스에 LLM 기능을 결합해 판매하는 방식을 우선 협의 중이다. 이를 통해 기능 통합 작업이 완료되는 4분기부터 실제 서비스 제공이 가능할 것으로 기대된다.

특히 SK텔레콤은 자체 설립한 AI반도체 전문기업인 ‘사피온’의 X330을 통해 LLM 생태계환경 구축을 위해 노력중이다. LLM을 포함한 AI서비스는 사전 학습을 위한 데이터와 함께 안정적 서비스 제공을 위한 GPU 서버 인프라가 확실히 뒷받침돼야 개발시간 단축과 함께 정교한 서비스 개발이 가능하다. X330은 GPU 이용시 발생하는 발열과 높은 가격 이슈를 해결할 수 있는 방안 중 하나다.

더불어 최근 지분투자를 단행해 3대주주가 된 페르소나AI와 컨택센타(AI Contact Center) 분야 LLM 구축 사업 협력을 추진하는 등 다양한 방식의 LLM 사업 추진을 위한 생태계를 구축, 확대해 나갈 계획이다.

나아가 SK텔레콤은 LLM서비스의 수요가 먼저 나타나고 있는 분야인 정부 부처, 공기업, 금융기업 등을 대상으로 서비스를 제공할 계획이다. 우선 행안부, 과기부 등 정부에서 추진중인 LLM 기반 시범 사업과 본 사업 참여를 준비중이며, 금융권을 중심으로 한 LLM 기반 서비스 구축 프로젝트도 개별 고객사와 함께 추진중에 있다.

김경덕 SKT CIC장(부사장)은 “중요한 것은 고객의 요구 사항(Needs)으로, 다양한 멀티 LLM 조합을 기반으로 고객들이 실제 필요로 하는 서비스를 신속하게 제공하는 것이 중요하다”고 강조했다.