HBM 넘어 ‘빛으로 연결’…SK하이닉스, CPO로 AI 시스템 공략

[이데일리 송재민 기자] SK하이닉스가 반도체 칩 사이의 데이터를 빛으로 전송하는 차세대 광 연결 기술인 ‘CPO(Co-Packaged Optics)’ 로드맵을 제시했다. 고대역폭메모리(HBM)를 넘어 인공지능(AI) 시스템 전체의 데이터 병목을 해결할 기술 확보에 나선 것이다.

(왼쪽부터) 차세대 광 인터커넥트(CPO) 기술 연구에 관해 의견을 나누고 있는 SK하이닉스 홍승훈 팀장과 버지니아대학교 이규상 교수. (사진=SK하이닉스)

SK하이닉스는 글로벌 연구진과 공동으로 작성한 ‘고성능 컴퓨팅 및 인공지능을 위한 CPO 기술’ 논문을 국제학술지 ‘네이처 일렉트로닉스’에 게재했다고 20일 밝혔다. 홍승훈 SK하이닉스 AI 인프라 팀장과 이규상 미국 버지니아대 전기컴퓨터공학과 교수가 교신저자로 참여했다. 일리노이대 어바나-샴페인, 난양공대, 매사추세츠공대(MIT), 연세대 연구진도 함께했다.

CPO는 광 송수신기를 프로세서와 같은 패키지 안에 넣어 칩 사이의 데이터를 전기 신호 대신 빛으로 주고받는 기술이다. 기존 구리 배선은 연결 거리가 길어지고 전송 속도가 빨라질수록 신호 손실과 전력 소모가 커진다. 반면 CPO는 전기 신호가 이동하는 거리를 최소화해 데이터 전송 속도와 전력 효율을 높일 수 있다.

광 인터포저를 통해 연산 자원(XPU Pool)과 메모리 자원(Memory Pool)을 광신호로 직접 연결하는 옵틱스 중심 아키텍처 개념도. (사진=SK하이닉스)

AI 가속기의 연산 성능은 2년마다 약 3배씩 높아지고 있지만, 칩과 칩을 연결하는 인터커넥트 대역폭은 같은 기간 약 1.4배 증가하는 데 그치고 있다. 수천개의 그래픽처리장치(GPU)와 HBM을 연결하는 초대형 AI 클러스터가 확산하면서 칩 자체의 성능보다 시스템 간 데이터 이동 속도가 전체 성능을 제한하는 ‘대역폭 장벽’이 커지고 있다는 설명이다.

연구진은 차세대 AI 인프라 구현을 위한 목표로 노드당 100테라비트(Tb)/s 이상의 대역폭과 비트당 1피코줄(pJ) 미만의 에너지 소비, 10나노초(ns) 미만의 칩 간 지연시간을 제시했다. 아울러 2D 패키징에서 2.5D 인터포저, 3D 이종 집적으로 이어지는 기술 발전 경로와 상용화를 위해 해결해야 할 과제도 정리했다.

(사진=SK하이닉스)

장기적으로는 광 연결을 메모리 인터페이스까지 확대한다는 구상이다. 광 인터포저를 통해 프로세서와 메모리를 직접 연결하면 여러 AI 가속기가 대규모 메모리 자원을 공동으로 사용할 수 있다. SK하이닉스는 이를 통해 메모리 공급사의 역할을 HBM 등 개별 제품에서 랙과 포드 단위의 AI 시스템 설계로 넓힌다는 계획이다.

이 교수는 “연산칩의 성능이 향상돼도 칩 사이의 데이터 이동 능력이 이를 따라가지 못하면 시스템 전체 성능은 높아질 수 없다”며 “구리 배선 대신 빛으로 데이터를 전송하는 기술이 가장 유력한 확장 경로”라고 말했다.

홍 팀장은 “메모리 기업도 단일 제품 공급을 넘어 고객의 AI 시스템 전체 경쟁력을 함께 만드는 파트너로 진화하고 있다”고 말했다.