[르포]몸값 비싼 'GPU' 극진히 관리…국가 AI데이터센터 가보니

[광주=이데일리 임유경 기자] 지난 21일 서울 광화문에서 버스로 4시간 가량 달려 도착한 광주광역시 첨단 3지구 인공지능중심 산업융합 집적단지. 이곳에는 NHN클라우드가 과학기술정보통신부, 광주광역시와 추진한 국내 최대 규모의 인공지능(AI) 특화 데이터센터인 ‘국가 AI 데이터센터’가 자리잡고 있다. 작년 4월에 준공된 국가 AI 데이터센터는 약 3200제곱미터의 면적과 지상 2층으로 설계됐다.

AI 데이터센터의 핵심 시설은 그래픽처리장치(GPU)가 있는 ‘전산실2’다. 이곳에는 전 세계적인 품귀 현상으로 귀한 몸이 된 엔비디아의 최신 AI 가속기 H100 랙과 전작인 A100 랙이 마주 보며 줄지어 있었다. 15kw(TV 98대 동시 가동할 수 있는 전력) 랙이 14개씩 10개 열로, 총 140개 설치돼 있었다. 수천~수만 개의 코어로 병렬 연산을 하는 GPU 장비는 발열과 풍량이 클 수밖에 없다는 얘기에 긴장하며 들어간 전산실 내부는 예상 밖으로 평온했다. 팬 돌아가는 소음만 요란할 뿐 온도는 약간 따뜻한 수준이고 풍량은 거의 느껴지지 않았다.

GPU 장비의 열풍을 제대로 느낀 건 전산실2를 한 바퀴 돌고 나와 H100 장비의 후면이 위치한 공간으로 이동하고 나서다. 장비 뒷면이 줄지어 있는 공간을 지나는 동안 뜨겁고 강한 바람이 쉴 틈 없이 뿜어져 나왔다. 잠깐이었지만 “아유 더워”라는 말이 절로 튀어나왔다. 장비 앞면과 뒷면의 차이가 크다는 건 장비 뒷면에서 나오는 뜨거운 바람이 장비 전체에 영향을 주지 않도록 차폐가 잘 돼 있다는 의미로 보였다.

전산실 내부 모습(사진=NHN클라우드)

AI 데이터센터는 엔비디아 H100 1000대를 포함해 월등한 컴퓨팅 연산 능력을 보유한 GPU 자원이 고집적돼 있어 일반적인 서버룸보다 전략 사용량과 발열량이 높을 수밖에 없다. 센터의 컴퓨터 연산 능력은 88.5 페타플롭스, 저장 용량은 107페타바이트 규모에 달한다. 88.5 페타플록스는 일반 업무용 노트북 약 50만 대가 1초에 수행할 수 있는 연산 처리 개수다. 저장 용량 107페타바이트는 1테라바이트, 하드디스크 10만7000개의 저장 용량에 해당한다.

데이터센터를 안내한 NHN클라우드 관계자는 “전산실 양쪽에 월 타입 쿨링 유닛을 설치해 양 방향에서 찬 공기를 동시에 공급할 수 있도록 구성했다”며 “H100과 A100이 마주 보는 공간은 차가운 공기가 공급되는 콜드 아일”이라고 설명했다. 또 “스트럭처 실링과 핫 아일 컨테인먼트 설치를 통해 핫 아일의 차폐 환경을 완벽 조성해, 공조 장치에서 공급되는 차가운 공기와 더운 공기가 섞이지 않게 함으로써 전산실 냉방에 사용되는 에너지를 최소화했다”고 덧붙였다.

장비 후면 핫 아일(사진=NHN클라우드)

데이터센터 옥상에는 공랭식 프리쿨링 냉동기 5대 설치돼 있었다. 외기 온도가 5℃ 이하일 때는 100% 프리쿨링으로 가동돼 일반 쿨링 장비 대비 약 20% 에너지 절감이 가능한 게 특징이다. 물의 증발잠열을 이용해 냉방을 돕는 기술(Adiabatic cooling)을 접목해 프리쿨링 효과를 극대화하고 물과 에너지를 절감했다고 한다.

정전에 대비한 주요 시설인 비상 발전실도 둘러봤다. 2000kw 비상발전기 총 4대를 운영하고 있었는데 정전이 발생하면 UPS 배터리를 통해서 15분간 작업내용을 백업한다. 그 이상이 넘어가면 비상 발전기가 가동된다. 추가 연료 공급 없이도 최대 27시간 가동할 수 있고, 계약을 맺은 주유소를 통해 경유를 공급해 무중단 운영이 가능한 체계를 갖췄다. 또 완전 무정전 실현을 위해 비상발전기실 외 UPS실을 별도 운영하고 있었다. 대량의 전력을 제공할 수 있는 배터리도 구비해놨다. 전기를 공급하는 수전은 이중화를 통해 비상상황 시에도 안정으로 전력을 공급받을 수 있게 했다.

윤용수 NHN클라우드 이사는 “판교 데이터센터 NCC1을 10년 이상 운영하며 얻은 클라우드 서비스 전문 데이터센터 운영 경험을 녹여 ‘국가 AI 데이터센터’에 고밀도전력, 효율적 소비 전력 설비를 구축했다”고 강조했다.

비상발전기실(사진=NHN클라우드)

UPS실(사진=NHN클라우드)

배터리실(사진=NHN클라우드)

옥상 공조장치(사진=NHN클라우드)