김 센터장은 서울 여의도 국회의원회관에서 고동진 국민의힘 의원 주최로 열린 간담회에서 이같이 말했다. 이에 국내에서 NPU를 만들고 있는 기업들을 위한 정책적 지원이 이루어져야 한다고 봤다.
|
현재 AI 워크로드에 필요한 데이터센터의 대표 컴퓨팅 플랫폼이 GPU다. 마이크로소프트, 메타 등 미국 빅테크는 엔비디아의 GPU를 통해 AI 데이터센터를 짓고 있다. 현재 AI 데이터센터를 위한 최고의 하드웨어가 엔비디아의 GPU고, 이 시장을 엔비디아가 독점하고 있다. 값 비싼 엔비디아의 GPU에 대항하기 위해 구글를 비롯한 MS, 메타, 아마존 등이 자체적으로 칩을 설계해 AI 연산에 특화한 NPU를 만드는 시도를 하고 있다. 구글은 자체 NPU인 텐서처리장치(TPU)를 만들었다.
엔비디아의 독점을 가능케 한 이유는 바로 ‘쿠다’라는 소프트웨어 덕이다. 김 센터장은 “하드웨어인 GPU를 잘 구동하려면 그에 맞는 소프트웨어도 중요한데, 엔비디아의 소프트웨어 스택인 쿠다가 시장을 모두 잡고 있다”며 “NPU의 잠재력은 크지만 소프트웨어 툴이 엔비디아만큼 준비되지 않은 게 현실”이라고 설명했다. GPU를 완벽하게 대체하려면 NPU 구동을 위한 소프트웨어가 필요한데, 아직은 역부족인 상황이다. 김 센터장은 “한국 팹리스 기업들도 NPU를 만들고 있으나 소프트웨어에서 격차가 크게 난다”고 부연했다.
다만 정책 지원이 스타트업의 자생력을 유도하는 방향으로 쓰여야 한다는 점도 명확히 했다. 김 센터장은 “다만 스타트업이 최종적으로 살아남으려면 투자금을 통해 연명하는 차원이 아닌 스스로 자생할 수 있는 방향으로 정책을 구상하는 것이 필요하다”며 “결국 스타트업이 만든 NPU가 데이터센터에 들어가, 매출이 나와야 한다”고 강조했다. 정부의 지원 필요성에 공감하면서도 지원금이 위기의식 없이 돈만 지원하는 식은 옳지 않다는 의견이다.
|