거침없는 엔비디아의 비밀[김현아의 IT세상읽기]

[이데일리 김현아 IT전문기자] 지난 주 엔비디아의 실적 발표 이후, IT 업계의 눈은 다시 한 번 젠슨 황 엔비디아 최고경영자(CEO)의 경영 비법에 집중되고 있습니다.

중국계 미국인 젠슨 황은 1961년 대만 타이난시에서 태어나 9살 때 가족과 함께 미국 켄터키로 이주했습니다. 스탠퍼드 대학교에서 전기공학 석사 학위를 취득한 그는, 졸업 후 LSI 로직과 AMD에서 마이크로프로세서 설계를 담당하다가 1993년에 AI 반도체의 제왕으로 불리는 ‘엔비디아’를 설립했습니다.

엔비디아는 지난 22일 회계연도 1분기(2~4월) 매출이 260억 4000만 달러(약 35조 6227억원)에 달했다고 밝혔습니다. 이는 증권가 예상 매출인 246억 5000만 달러(약 33조 7212억원)를 상회한 것으로, 지난해 같은 기간에 비해 18% 증가한 수치입니다.

더욱 놀라운 점은 엔비디아의 영업이익률이 65%에 달한다는 것입니다. 제조사로서는 달성하기 어려운 수치로, 인터넷 기업 네이버의 영업이익률이 17.4%, 통신사 SK텔레콤의 영업이익률이 7.1%에 불과하다는 점을 고려하면 ‘꿈의 숫자’라 할 수 있습니다.

역대 최고 실적에 더해, 주식을 10대 1로 액면분할한다는 소식이 전해지면서 투자자들이 몰렸고, 지난 23일 뉴욕 증시에서 엔비디아 주가는 전날보다 9.32% 급등한 1037.99달러에 거래를 마쳤습니다.

이로 인해 젠슨 황 CEO의 재산 가치는 936억 달러(약 128조 448억원)로 상승하며, 전 세계에서 17번째로 부유한 사람이 됐습니다.

젠슨 황 엔비디아 최고경영자(CEO)가 18일(현지시간) 미국 캘리포니아 산호세 SAP센터에서 열린 ‘GTC 2024’ 컨퍼런스 무대 위에서 기조 연설을 하고 있다. AFP=연합뉴스

엔비디아. 사진=AFP

카니발라이제이션 즐기는 회사

그런데 엔비디아의 질주는 앞으로도 상당 기간 지속될 것으로 보입니다. 현재 오픈AI나 구글 등이 거대언어모델(LLM)을 학습시키는데 필요한 AI 반도체는 엔비디아만 유일하게 공급할 수 있기 때문입니다. AI 반도체 시장(학습과 추론)의 90% 이상은 엔비디아가 장악하고 있다는 게 업계의 설명입니다. 아마존, 구글, 테슬라 등 전세계 IT 기업들이 자체적으로 칩을 만들겠다며 탈(脫)엔비디아를 외치지만 아직은 힘에 부친다는 이야기입니다.

AI 반도체 업체 한 사장은 “엔비디아는 잘나가던 A100이 있는데 H100을 출시해 자기 제품끼리 경쟁시킨 세계적으로 유례를 찾아보기 힘든 회사”라면서 “이처럼 카니발라이제이션(cannibalization·자기잠식효과)을 즐긴 회사는 거의 없다. 이는 CEO가 창업자 출신이기 때문”이라고 했습니다.

엔비디아는 GTC(GPU Technology Conference) 2022에서 H100 GPU를 선보였는데, 이는 A100 GPU의 설계 사상을 이어받으면서도 최대 30배까지 성능이 뛰어나다고 합니다. 그런데 당시 A100은 아주 잘 나가는 AI반도체였습니다. 하지만, H100이 출시된 지 얼마 되지 않아 엔비디아는 A100을 단종시켜버렸습니다. 그래서 AI반도체 업계에서는 A100을 두고 “잘나갈 때 생산을 멈춘 거의 유일한 반도체”라고 부른다고 합니다.

이런 엔비디아의 도전은 계속되고 있습니다. 올해는 H100이 구하기 어려울 정도로 잘 팔리고 있음에도 불구하고, 신작 AI 칩 ‘B(블랙웰·Blackwell)100’과 ‘B200’를 공개했습니다. 연내 양산을 시작한다고 합니다. A100, H100, B100까지 끊임없이 자기 자신과 싸우는 혁신이 현재의 위대한 성과를 만든 비결이라는 이야기입니다.

젠슨 황을 보고 “돈을 벌려고 하는 플레이어라기 보다는 다른 무엇(이상을 꿈꾸는 창업가 정신)이 있다”는 이야기가 나오는 것도 이 때문입니다. 그래서 그를 IT혁명의 영웅 일론 머스크와 비교하는 사람도 많습니다. 그래픽 사용자 인터페이스(GUI) 혁명을 만든 스티브 잡스 이후 최고라는 이야기겠지요.

최태원 SK그룹 회장이 지난 4월 미국에서 젠슨 황 엔비디아 최고경영책임자(CEO)와 기념 사진 촬영을 한 모습이다. 사진=최태원 회장 SNS 캡처

장사꾼으로서의 치밀함도

젠슨 황에 대해 말할 때 그의 장사꾼으로서의 치밀함을 언급하는 사람도 있습니다. GTC 2024에서 메타의 마크 저커버그 CEO를 가장 먼저 무대에서 소개한 것이나, SK하이닉스 최태원 회장과 만나 함께 사진을 찍으면서도 삼성전자에는 부스에 전시된 최신 HBM3E의 실물을 보고 ‘승인(APPROVED)’ 친필 사인을 남기는데 그친 것이 대표적입니다.

메타는 엔비디아 칩을 가장 많이 사주는 고객이고, SK하이닉스는 AI반도체에 필수적인 고대역폭메모리(HBM)에서 가장 중요한 협력사이기 때문입니다.

엔비디아의 거침없는 질주는 젠슨 황의 리더십과 혁신 정신에 힘입은 결과입니다. 끊임없는 도전과 자기 혁신, 그리고 카니발라이제이션을 두려워하지 않는 경영 전략이 엔비디아를 오늘의 자리로 이끌었습니다.

앞으로도 엔비디아의 놀라운 성장은 계속될 것이며, 젠슨 황의 경영 비법은 IT 업계의 중요한 사례로 남을 것입니다.