"과거 싸게 많이 팔던 메모리…AI 시대 주인공 급부상"

[이데일리 공지유 기자] “인공지능(AI) 시대에 데이터가 원활하게 흐르게 하는 메모리가 전체 시스템 성능을 좌우하는 주인공이 됐다.”

심준섭 SK하이닉스 어드밴스드 메모리 솔루션 팀장은 29일 서울 여의도 FKI플라자에서 이데일리와 한국경제인협회가 공동 주최한 ‘2026 넥스트테크 포럼’에서 이같이 말했다. AI 시대에 접어들면서 데이터를 빠르게 처리할 수 있는 메모리의 위상이 전례 없이 커졌다는 것이다.

심준섭 SK하이닉스 어드밴스드 메모리 솔루션 팀장이 29일 서울 여의도 FKI타워에서 열린 '2026 넥스트 테크 포럼'에서 '메모리 중심 AI, 미래를 바꾸다' 주제로 발표를 하고 있다.(사진=이영훈 기자)

심 팀장은 “기존 PC와 모바일 시대에는 메모리는 스펙에 맞춰 싸게 많이 파는 것이 제품 경쟁력이었다”며 “AI 시대에서는 데이터가 성능을 결정하고, 그 데이터를 담을 수 있는 메모리가 시스템의 중심으로 올라서고 있다”고 설명했다.

챗GPT 등 생성형 AI의 등장으로 데이터 수요는 폭발적으로 증가하고 있다. 수많은 데이터를 학습할수록 AI의 능력치가 더 높아지는 만큼 많은 데이터가 필요하다. 이와 함께 데이터를 원활하게 공급할 수 있는 넓은 대역폭에 대한 요구도 커졌다.

이같은 지점에서 데이터 병목을 해소할 수 있는 고대역폭메모리(HBM)가 각광 받게 됐다. 기존 범용 D램 메모리가 데이터를 수평으로만 교환했다면, HBM은 칩을 아파트처럼 수직으로 쌓아 데이터가 드나드는 통로를 기존 수백개 단위에서 수천개 단위로 확장할 수 있게 됐기 때문이다. 심 팀장은 “고대역폭에 대한 요구를 HBM이 만족시켜 주면서 AI 시대에 급부상하게 됐다”고 했다.

HBM을 뒤이을 차세대 기술로는 에너지 효율을 극대화하는 시스템에 대한 수요가 커질 것이라고 내다봤다. 심 팀장은 “칩과 칩이 수직으로 쌓이는 3D D램을 통해 칩 간 거리와 데이터 이동 거리를 줄여 에너지 효율성을 높이는 동시에 대역폭을 확대할 수 있을 것”이라고 말했다.

메모리에서 일부 연산을 수행하는 프로세싱 인 메모리(PIM)와 컴퓨트 익스프레스 링크(CXL) 등 기술도 소개했다. 심 팀장은 “데이터가 메모리에서 프로세서로 이동하면서 많은 에너지 소모가 일어나는데, PIM은 데이터를 많이 필요로 하는 일부 연산을 메모리에서 수행하면서 효율성을 높일 수 있다”고 말했다.

그는 이어 “여러 프로세서가 공유된 풀 안에서 필요한 만큼 메모리를 사용하는 CXL 기술 역시 주목받고 있다”며 “삼성전자와 SK하이닉스 역시 수년간 해당 기술을 개발하고 있다”고 설명했다.

심 팀장은 “AI 시대에 접어들면서 다양한 메모리 솔루션이 소개되고 있고, 맞춤형(커스텀) 제품도 다양해지고 있다”며 “대역폭 특화, 유연성, 용량, 연산 능력을 갖춘 메모리가 등장하면서 AI 시스템에 절대적 가치를 부여하는 시대가 됐다”고 평가했다.