정부, 엔비디아 GPU 연내 1만장 서비스...민간 클라우드사가 확보

[이데일리 윤정훈 기자] 정부가 민간과 협력해 연내 엔비디아 최신형 GPU 1만여 장을 확보하기 위한 구체적인 로드맵을 확정하며 사업에 속도를 낸다.

이번 사업은 민간 클라우드 기업(CSP)이 GPU를 조달·구축하고 소유권은 정보통신산업진흥원(NIPA)이 갖는 방식으로 진행된다. 확보한 GPU는 국내 산학연을 지원하게 된다.

유상임 과학기술정보통신부 장관이 13일 서울 중구 서울스퀘어 국가인공지능위원회에서 열린 ‘제4차 AI컴퓨팅 인프라 특별위원회’를 주재하고 있다.(사진=과학기술정보통신부, 연합뉴스)

유상임 과학기술정보통신부 장관은 14일 경제장관회의에 참석해 이같은 내용의 ‘첨단 GPU 구매·구축·활용 방안’을 보고했다. 이는 지난 1일 국회에서 GPU 확보를 위한 1조4600억원 규모 추가경정예산안이 통과된 데 따른 후속 조치다.

이번 안에는 구체적으로 H200 GPU 6400장, B200 GPU 3600장 등 총 1만장 규모 GPU를 확보하는 내용이 담겼다. GPU 확충에 8600억원, 통합운영환경 구축에 6000억원이 쓰인다.

업계 전문가는 “H200 6400장, B200 3600장이면 최대 4k 를 하나로 묶을 수 있다”면서 “추후 B200을 8k이상 빠르게 확보해 연결할 필요가 있다”고 설명했다.

GPU 확보 기준은 H200과 B200을 혼합하는데 B200은 고성능·고가 모델이지만, 기술적 리스크가 있어 일부 H200으로 분산 조달한다고 했다.

이번 사업은 민관 협력 모델로 추진한다. 국내 클라우드 서비스 제공기업(CSP)을 공모를 통해 선정하고, 실질적인 GPU 구매와 구축을 대행하게 된다.

주요 사용권은 GPU 향후 설립될 국가 AI컴퓨팅센터(SPC)로 귀속해 AI컴퓨팅 인프라 통합지원체계를 뒷받침한다. CSP는 운영비 성격으로 일부 GPU 자원을 자체 활용할 수 있수 있도록 할 예정이다.

정부는 5~6월 CSP 공모 및 선정, 7월 GPU 구매 발주, 10월부터 순차 서비스 개시한다는 계획이다. 정부 차원의 조달 절차가 장기간 소요되는 만큼 민간을 통해 GPU 구매로 기간을 단축하는 방안을 세웠다.

선정된 CSP는 기존 데이터센터 내에 GPU 클러스터를 구축하게 된다. 정부는 사전 준비 단계에서 데이터센터의 전력, 냉각, 네트워크 등 인프라 정비 여부도 평가한다. 구축이 완료되면 국가 AI컴퓨팅센터를 통해 대학, 연구기관, 스타트업 등 다양한 기관에 GPU를 전략적으로 배분할 전망이다.

특히 ‘월드 베스트 LLM 프로젝트’를 통해 실력이 있는 국내 AI 기업에 GPU와 데이터, 인재를 지원해 글로벌 수준의 AI 파운데이션 모델 개발에 집중 지원된다.

대학과 연구기관 등은 그동안 GPU가 필요하다는 목소리를 지속적으로 내왔다. 이번 정부조사에도 응답 기관 중 79%가 1년 이내 GPU가 필요하다고 답했다.

주요 수요 분야 별로는 생성형AI(64.3%) 분야가 가장 높은 비중 차지했고, 컴퓨터비전(60.6%), 자연어 처리(53.2%), 로봇·자율주행(18.5%), 음성인식(11.6%) 등으로 나타났다.

과기정통부는 “정부는 CSP가 운영하는 GPU를 향후 단계적으로 국가 AI컴퓨팅 센터 SPC로 이관할 계획”이라며 “시기와 방안은 비용 등을 고려해 별도 검토 추진한다”고 말했다.