AI 활용에 필요한 방대한 양의 데이터를 저장하고 관리하기 위해서는 적시에 GPU 물량을 확보하는 것은 물론, 고가의 인프라 비용에 대한 대비가 무엇보다 중요하다.
이에 kt cloud는 지난 5월 AI 기술 개발에 필요한 AI 인프라를 경제적으로 활용 가능한 학습과 추론 전용 상품으로 AI Train과 AI SERV NPU를 각각 출시한 바 있다.
AI SERV NPU는 리벨리온과 협업한 추론 전용 인프라로, 기존 GPU 기반 추론용 인프라 대비 가성비를 높이고, 자동화 유지보수 및 스케일링 기능을 갖췄다.
이번 웨비나는 ▲’kt cloud AI 인프라 소개’, ▲’AI Train, AI SERV NPU를 활용한 sLLM(소형언어모델, Small Large Language Model) 데모 시연’ 2개의 세션으로 진행된다.
첫번째 세션인 ‘kt cloud AI 인프라 소개’에서는 kt cloud 부대권 AI기술팀 매니저가 연사로 나서 kt cloud AI 상품 라인업에 대해 소개하고, 신규 출시된 AI Train과 AI SERV NPU의 차별점과 실증 사례 등을 소개한다.
두번째 세션인 ‘AI Train, AI SERV NPU를 활용한 sLLM 데모 시연’에서는 AI Train과 AI SERV NPU를 활용해 sLLM을 시연할 예정이다.
이번 웨비나는 kt cloud 포털에서 누구나 무료로 신청할 수 있다. 신청자들에게는 웨비나 당일 이메일과 휴대폰으로 접속 링크가 전달된다. 또한 사전등록 이벤트에 참여하는 신청자들에게는 추첨을 통해 소정의 상품도 제공한다.
kt cloud 남충범 본부장은 “생성형 AI, 딥러닝 등 AI 기술이 다양한 산업에서 도입되면서 AI 인프라에 대한 수요가 증가하고 있다”며 “kt cloud는 엔비디아 및 비(Non) 엔비디아, 학습 및 추론용 AI 인프라 상품 라인업을 모두 갖추고 있는 만큼, 고객 니즈에 따라 AI 인프라를 경제적으로 사용하면서 AI 기술이 발전할 수 있도록 적극 지원하겠다”고 밝혔다.