"GPU 쉽게 구해요"..서울에 엔비디아 GPU 기반 ‘AI 데이터센터’ 개소

by김현아 기자
2024.08.21 08:49:43

[이데일리 김현아 기자] SK텔레콤(017670)(SKT)이 미국 그래픽처리장치(GPU)기반 인공지능(AI) 클라우드 서비스(GPUaaS) 기업 ‘람다(Lambda)’와 협력하여 오는 12월 서울에 AI 데이터센터를 개소한다고 21일 발표했다.

이 데이터센터는 엔비디아 GPU를 기반으로 하며, SK브로드밴드의 서울 가산 데이터센터에 배치될 예정이다.

람다는 2012년 AI 엔지니어들이 설립한 회사다. 엔비디아(NVIDIA)로부터 최신 GPU를 공급 받아 AI 클라우드 서비스를 제공하는 GPUaaS 기업이다. 인텔, 마이크로소프트 등 글로벌 빅테크 기업들이 람다의 고객사다. 람다는 지난 2월 회사 가치를 15억달러로 평가받고, 3억 2000만달러 규모의 투자를 유치하는 등 떠오르는 AI 기업으로 각광받고 있다.

SKT는 최근 미국 AI 데이터센터 통합 솔루션 대표 기업 ‘Smart Global Holdings’에 최대 규모의 투자(2억 달러)를 단행한 데 이어, 이번 람다와의 글로벌 협력으로 GPUaaS 경쟁력까지 높이며 AI 인프라 사업에 속도를 내고 있다.

지난 1월 람다의 산호세 본사에서 SKT 유영상 CEO(사진 왼쪽)와 람다 창업자 겸 CEO 스티븐 발라반(Stephen Balaban)이 양사의 구체적인 협력 방안을 논의한 후 기념사진을 촬영하고 있는 모습.

SKT와 람다는 이번 파트너십을 통해 GPUaaS 사업을 확대하고, 람다의 한국 리전(Region)을 설립한다. 이로써 한국 내 AI 클라우드 서비스의 안정적 GPU 공급을 확보하고, 글로벌 시장 진출을 모색할 계획이다.

SKT는 향후 3년 안으로 GPU 수천 대를 확대할 계획이며, 최신 GPU 모델인 ‘H200’의 조기 도입도 검토하고 있다.

SK브로드밴드는 데이터센터 운영 노하우를 살려 고밀도 GPU 서버 운영 환경에 최적화된 데이터 코로케이션 환경을 제공한다. 데이터센터 코로케이션이란 데이터센터 전문기업이 전산실 등의 공간을 임대하고, 고객 장비를 위탁관리 · 운영하는 서비스다.

SK브로드밴드는 GPU 서버가 안정적으로 작동할 수 있도록 가산 데이터센터의 랙 당 전력밀도를 국내 최고 수준인 44kW로 구현할 계획이다. 이는 국내 데이터센터 랙 당 평균 전력밀도인 4.8kW의 약 9배에 달한다.

새로운 AI 데이터센터는 아시아태평양 지역에서 람다의 첫 번째 한국 리전이 된다. 이로 인해 국내 기업들은 람다의 GPU 기반 AI 클라우드 서비스를 이용하며, 데이터는 한국 내에 안전하게 저장된다.

지난 1월 람다의 산호세 본사에서 SKT 유영상 CEO(사진 뒷줄 왼쪽서 4번째)와 람다 창업자 겸 CEO 스티븐 발라반(뒷줄 왼쪽서 5번째) 등 양사 주요 관계자들이 협력 방안을 논의한 후 기념사진을 촬영하고 있는 모습.

SKT는 람다 GPU 자원을 기반으로 한 구독형 AI 클라우드 서비스 ‘GPUaaS(GPU-as-a-Service)’를 올해 말 출시할 계획이다. 기업들이 직접 GPU를 구매하지 않고도 클라우드에서 가상 환경으로 자원을 빌려 쓸 수 있도록 하여, GPU 구매 부담을 줄이고 비용 효율성을 높일 수 있다.

SKT는 12월 ‘GPUaaS’ 출시와 함께 GPU 교체 보상 프로그램, 클라우드 비용 최적화 컨설팅, AI 스타트업 지원 프로그램 등 국내 스타트업, 중견 · 중소기업 대상의 다양한 프로모션을 선보일 계획이다. 자세한 내용은 SK텔레콤 엔터프라이즈 홈페이지에서 확인 가능하다.

SKT는 이번 람다와의 협력을 통해 국내 최대 규모의 GPU Farm을 구축하고, AI 경쟁력 강화를 목표로 하고 있다.

람다의 스티븐 발라반 CEO는 “한국에서 AI 클라우드 영역의 성장을 지원하게 되어 기쁘다”고 전하며, SKT의 AI 혁신에 대한 비전을 공유하고 있다고 밝혔다.

김경덕 SKT 엔터프라이즈 사업부장은 ”람다와의 전략적 협력으로 GPU를 안정적으로 확보한 것은 국내 GPU 공급 확대 측면에서 의미가 크다”며, “국내 최대 규모의 GPU Farm을 구축해 국가 AI 경쟁력을 높이고, 글로벌 시장 진출의 교두보로 자리매김하도록 노력할 것”이라고 말했다.

세계 각국의 IT 기업들은 ‘GPUaaS’를 내놓고 있으며, 시장 규모도 급격히 성장하고 있다. 시장조사기관 ‘포천 비즈니스 인사이트(Fortune Business Insights)’에 따르면 글로벌 ‘GPUaaS’ 시장은 2024년 43억1000만달러에서 2032년 498억4000만달러로 성장하며, 연평균 성장률은 35.8%에 달할 것으로 예상된다.