삼성·SK "저전력 PIM 개발 빠르다…기존 시스템서도 구현"(종합)

by조민정 기자
2024.12.03 16:24:41

[이데일리 조민정 기자] “기존 프로토콜이나 소프트웨어 등을 바꾸지 않고 D램만 교체해도 PIM(프로세싱 인 메모리)이 작동하게 만드는 걸 목표로 했습니다.”(손교민 삼성전자 마스터)

“저전력 LPDDR(저전력더블데이터레이트) 메모리로 PIM을 사용하면 온디바이스 인공지능(AI)을 넘어 데이터센터까지 두 마리 토끼를 잡을 수 있습니다.”(임의철 SK하이닉스 펠로우 부사장)

손교민 삼성전자 마스터가 3일 서울 관악구 서울대 38동 글로벌공학교육센터에서 열린 SNU AI 반도체 포럼(SAISF)에서 강연하고 있다.(사진=조민정 기자)

삼성전자(005930)와 SK하이닉스(000660)가 3일 ‘SNU AI 반도체 포럼(SAISF)’에서 생성형 AI에서 가장 적합한 메모리로 ‘PIM’을 꼽았다. 두 업체는 ‘저전력 D램’을 활용한 LP-PIM으로 편리한 사용감과 고성능을 구현하는데 주력하고 있다.

손 마스터는 “메모리에서 데이터를 못 가져오면 프로세스를 아무리 잘 만들어도 소용이 없다”며 차세대 메모리 솔루션으로 PIM을 강조했다. PIM은 메모리 반도체에 연산 기능을 더한 지능형 메모리다.

생성형 AI를 가동하는 LLM(거대언어모델)이 메모리 성능에서 좌우되는 만큼 메모리 업계에선 고성능과 저전력을 한 번에 해결하기 위한 기술 개발에 대한 고민이 크다. LLM을 이루는 중요한 요소인 GEMV(행렬과 벡터를 곱하는 함수) 기능을 D램에서 수행해야 하는데, 기존 메모리로는 보틀넥(장애물)이 생길 수밖에 없다.



삼성과 SK는 자사의 PIM 솔루션에서 △LPDDR을 활용한 LP-PIM △기존 시스템 설계 변경 없이 손쉬운 사용 등 두 가지를 공통적으로 강조했다.

LP-PIM은 기존 LPDDR에 비해 에너지 효율 측면에서도 월등하다. 인텔, AMD 등으로 한정된 DDR 시장과 달리 LPDDR은 모바일 애플리케이션프로세서(AP)를 만드는 회사가 많아 개발 속도도 빠르다. 손 마스터는 “DDR은 서버에 대한 솔루션이어서 바뀌는 속도가 모바일만큼 빠를 수 없다”고 말했다.

임의철 SK하이닉스 부사장이 3일 서울 관악구 서울대 38동 글로벌공학교육센터에서 열린 SNU AI 반도체 포럼(SAISF)에서 강연하고 있다.(사진=조민정 기자)

SK하이닉스는 자체 PIM 제품인 AiM을 여러 개 연결해 성능을 높인 가속기 카드 ‘AiMX(AiM based Accelerator)’를 보유하고 있다. 임 부사장은 “AiM은 저전력과 고성능을 모두 잡을 수 있는 아키텍처”라며 “AiM을 쓰면 엔비디아의 H100 사용 대비 메모리당 성능이 13배 정도 높아진다”고 말했다. AiMX는 AiM 반도체들 가운데 컨트롤 허브를 둔 제품이다. 임 부사장은 “AiM은 GEMV 기능을 처리하고 컨트롤 허브는 나머지 필요한 부분을 처리하는 방식”이라고 설명했다.

SK하이닉스도 별다른 수정 없이 새로운 아키텍처를 적용할 수 있도록 데이터센터향 AiMX을 설계해 고객사의 부담을 줄였다. 임 부사장은 “온디바이스는 기존에 있던 모바일 AP를 바꿔야 하는 문제가 있다”며 “그만큼 온디바이스에서 할 수 있는 솔루션이 몇 개 없다는 걸 알고 있기에 고객사와 보틀넥을 헤쳐나가기 위해 논의를 진행하고 있다”고 했다.