KAIST PIM반도체설계연구센터, AI 반도체 전문인력 양성 교육

[이데일리 김현아 기자] 과학기술정보통신부·정보통신기획평가원(IITP)이 주관하는 PIM인공지능반도체 핵심기술개발사업의 지원을 받고있는 한국과학기술원 PIM반도체설계연구센터(센터장 유회준 KAIST 전기 및 전자공학부 교수)가 AI 반도체 전문인력 양성을 위해 전국 AI 및 반도체 관련 학과 학부생과 대학원생을 대상으로 SK하이닉스와 삼성전자의 PIM 기반 이론 및 실습 교육을 진행했다.

SK하이닉스 교육에 참가한 실습생들

강의는 6월 20일(목)부터 6월 21일(금)까지 SK하이닉스(000660) 교육, 7월 4일(목)부터 7월 5일(금)까지 삼성전자(005930) 교육을 각각 KAIST PIM반도체설계연구센터에서 진행했다.

PIM(Processing-In-Memory)은 메모리 반도체에 연산 기능을 추가하여 AI와 빅데이터 처리 분야에서 데이터 처리 속도를 높이면서도 사용 전력을 줄이는 반도체 설계 기술이다.

삼성전자 교육에 참가한 실습생들

이번 교육은 SK하이닉스의 AiM과 삼성전자의 HBM-PIM을 활용하여 수강생들이 직접 실습할 수 있는 기회를 제공했다. 전국 25개 대학교에서 300명이 넘는 학생들이 접수하여 높은 관심을 받았다.

AiM(Accelerator-in-Memory)은 SK하이닉스의 PIM 반도체 제품명, GDDR6-AiM 포함한다. HBM-PIM(Processing-in-Memory)은 삼성전자의 PIM 반도체 제품 이름으로, 세계 최초로 메모리 반도체와 인공지능 프로세서를 결합한 제품이다.

인공지능(AI) 시대에는 거대언어모델 등 방대한 데이터 처리 수요가 급증하면서 PIM 기술 도입의 필요성이 더욱 커지고 있다.

한국 반도체의 먹거리인 메모리 기술의 미래를 열어줄 PIM 연구 활성화를 위해, AI용 메모리 반도체 설계 및 응용 역량을 갖춘 실무 중심의 교육 프로그램을 마련했다.

강의는 ▲SK하이닉스의 ‘PIM을 사용한 LLM(거대언어모델)가속 환경에서의 활용’ ▲삼성전자의 ‘AI 가속 환경에서 HBM과 HBM-PIM의 활용’을 주제로 진행했다.

또한 GPT의 등장으로 인한 환경 변화, 인공지능과 거대언어모 델(LLM)에 대한 기본 지식, 챗봇 서비스 작용 원리 등이 다뤄졌다. 수강생들은 SK하이닉스의 AiM과 삼성전자의 HBM-PIM이 장착된 서버 환경에서 하드웨어를 직접 구동하여 실습했다.

PIM 반도체설계연구센터는 PIM 반도체 전문인력 양성을 위한 ‘PIM’ 교육 프로그램을 운영하고 있다. 연구 중심의 PIM 반도체 전문인력을 양성하여 한국 PIM 반도체 산업에 핵심 인력을 제공하는 것을 목표로 하고 있다. 교육 프로그램에 대한 자세한 내용은 PIM반도체설계연구센터 홈페이지에서 확인할 수 있다.

PIM반도체설계연구센터 유회준 센터장은 “이번 교육을 통해 산업 현장에서 실제로 어떻게 활용되는지 아는 것이 중요하다. 특히, AI-PIM 반도체에 대한 관심이 높아짐에 따라 관련 교육 과정을 지속적으로 확대할 계획이다. 이를 통해 참가자들이 최신 기술 동향을 따라잡고, 실무에 바로 적용할 수 있는 능력을 키울 수 있도록 하겠다”고 전했다.

카이스트 전기 및 전자공학부 박사과정 엄소연 수강생은 “논문으로는 이해하기 어려웠던 내용을 실습을 통해 배울 수 있어 의미가 있었다. 특히, 실습 과정에서 얻은 경험과 통찰력은 앞으로 연구와 개발에 큰 도움이 될 것 같다.”라고 소감을 전했다.

수강생들은 질의응답 시간뿐만 아니라 쉬는 시간에도 강사에게 질문을 이어갔다. 미리 관련 논문을 읽고 온 학생들도 있어 PIM 반도체에 대한 열정을 확인할 수 있었다.