SK하이닉스, CXL 개발 매진…“AI 튜닝 작업 중”

by김응열 기자
2024.08.27 17:39:19

박경 SK하이닉스 부사장, 최종현학술원 특별강연 참석
“AI 거대언어모델선 메모리가 데이터 많이 ‘펌핑’해야”

[이데일리 김응열 기자] SK하이닉스(000660)가 인공지능(AI) 메모리 리더십 확보를 위해 컴퓨트익스프레스링크(CXL) 개발에 매진하고 있다고 재확인했다.

박경 SK하이닉스 시스템아키텍처 담당 부사장이 27일 서울 강남구 한국고등교육재단빌딩에서 열린 최종현학술원 과학혁신 특별강연에 참석해 AI 메모리에 관해 설명하고 있다. (사진=최종현학술원 유튜브 캡처)
박경 SK하이닉스 시스템아키텍처 담당 부사장은 27일 서울 강남구 한국고등교육재단빌딩에서 열린 최종현학술원 과학혁신 특별강연에 참석해 AI 메모리에 관해 설명했다.

이 자리에서 박 부사장은 “현재 AI 메모리는 곧 그래픽처리장치(GPU)인데, 고대역폭메모리(HBM)가 그렇게 크지 않아 항상 ‘메모리 헝그리(hungry)’ 할 수밖에 없다”고 언급했다.

그러면서 “‘메모리 헝그리’한 XPU에 저희가 가진 CXL 메모리를 붙여서 해결할 수는 없을까 고민하게 됐다”며 “CXL 메모리를 AI 쪽으로 튜닝하는 작업을 열심히 하고 있다”고 부연했다.



SK하이닉스는 올해 하반기 상용화를 목표로 DDR5 기반 96GB·128GB CXL 2.0 메모리 솔루션 제품을 개발하고 있다. CXL은 고성능 컴퓨팅 시스템에서 중앙처리장치(CPU), GPU, 메모리 등을 효율적으로 연결하는 인터커넥트 기술이다.

기존 메모리 모듈에 CXL을 이용하면 용량을 두 배 이상 확장할 수 있다. 이런 특징으로 인해 CXL은 대용량·고대역폭 메모리가 필요한 AI 시대에 필수 기술로 떠오르고 있다.

박 부사장은 “과거 D램은 CPU에 붙어 CPU가 하는 일을 도와주는 메모리였는데, AI 거대언어모델(LLM)은 메모리가 칩 옆에 가까이 붙어 최대한 데이터를 많이 ‘펌핑’해줘야 한다”며 “시스템 구조가 바뀌고 반도체부터 애플리케이션까지 한꺼번에 바뀌어야 문제가 해결된다”고 강조했다. AI 시스템 성능이 메모리에 달렸다는 설명이다.

현재 SK하이닉스는 고객사와 CXL 인증 단계를 진행 중이다. 삼성전자는 연내 CXL 2.0 기반 256GB CMM-D(CXL Memory Module-DRAM)를 양산할 전망이다. CXL 기반 D램인 이 제품은 다양한 종류의 프로세서를 하나의 시스템으로 연결해 대용량 데이터를 효율적으로 처리할 수 있도록 돕는다.