|
AI 풀스택이란 AI 반도체 등 인프라부터 고객에게 제공하는 AI 응용 서비스까지 전 과정을 아우르는 제품과 서비스를 의미한다. 이미 AI 반도체(NPU)의 작은 거인 리벨리온과 함께 추론 분야에서 기존보다 5분의 1 이상 비용을 줄인 AI 인프라 서비스를 시작했다. 네이버클라우드 등 경쟁사들보다 빠르다.
KT클라우드는 2021년 AI 산업의 문턱을 낮추기 위해 종량제 AI 인프라 서비스 ‘하이퍼스케일 AI 컴퓨팅(HAC)’을 출시했다. 실 사용량을 기반으로 필요할 때 필요한 만큼 사용할 수 있어 △비용 효율성 △개발 유연성 및 연속성 △프로그래밍 호환성 등이 장점이다.
HAC는 여러 대의 그래픽처리장치(GPU)를 결합해 하나의 GPU처럼 사용하며 AI 모델 대형화에 대응할 수 있는 수백~수천 개의 GPU 클러스터링 자원을 지원한다. 대규모 연산이 필요할 때는 다중, 동적 할당 기술을 통해 원하는 만큼만 GPU 자원을 할당받고, 연산 후 즉시 반납할 수 있어 초거대 AI 언어모델 학습 테스트 결과, HAC은 기존 구축형 서비스 대비 30~50%의 비용 절감 효과를 냈다.
지난 6월엔 토종 팹리스(반도체 설계 전문기업) 리벨리온의 ‘아톰’을 적용한 클라우드 기반 NPU(신경망처리장치) 인프라 서비스를 국내 최초로 상용화했다. NPU를 클라우드 기반으로 이용할 수 있도록 플랫폼에 적용했다. 기업 고객들은 전용 포털을 통해 쉽고 간편하게 NPU 기반의 AI 추론을 진행할 수 있다.
클라우드 기반 NPU 인프라는 클릭 몇 번으로 고객이 직접 자원을 생성하고, 연산 세션을 활용해 관리·모니터링 등을 할 수 있다. 구축형 인프라 대비 사용 편의성이 높고, 필요할 때 필요한 만큼 이용할 수 있는 환경을 제공함으로써 AI 분야 기업들의 연구 기관들의 비용 혁신을 돕는다.
NPU 서비스와 더불어 엔비디아 GPU 기반 ‘슬라이싱 기술 활용 서빙 상품’을 다음 달에, ‘동적할당 상품’을 내년 초에 출시하며 AI 클라우드 상품 라인업을 강화할 방침이다.
KT클라우드는 AI 풀스택 사업자로 공공·민간 부문의 신규 AI 사업 추진 등을 위해 올해 국내 업계 최대 규모인 6000억원 규모의 외부 투자를 유치했다. KT로부터 분사하기 전 4000억원에서 4조 3000억원의 기업가치(프리머니 밸류, 투자 전 기업가치)를 인정받은 것이다. 1년 사이에 기업가치가 10배 정도 성장했다.
회사는 전략 사업인 AI 분야 경쟁력 강화를 위해 관련 투자를 확대하고, 내부 역량과 사업/서비스를 고도화한다는 계획이다. 반도체부터 응용서비스까지 아우르는 AI 풀스택을 완성해 2025년까지 글로벌 시장 진출을 목표로 하고 있다.