韓특화 LLM 기술력 뽐내는 트릴리온랩스…21B 모델 선보인다

[이데일리 김혜미 기자] 한국어 특화 거대언어모델(LLM)을 개발해 온 국내 스타트업 ‘트릴리온랩스’가 이르면 이번 주에 새로운 모델 ‘트릴리온 21B’를 공개할 것으로 보인다. 지난 3월 엔비디아 초청 행사에서 공개한 ‘트릴리온 7B’에 이은 두 번째 오픈소스 모델이다. 트릴리온랩스는 과학기술정보통신부가 추진 중인 ‘독자 AI 파운데이션 모델’ 개발 지원사업 선정을 앞두고 자체 기술력을 과시하고 있다.

9일 스타트업계에 따르면 트릴리온랩스는 이번 주말께 새 LLM 모델 ‘트릴리온 21B’를 오픈소스로 공개할 것으로 예상된다. 모델명은 AI 크기를 가늠할 때 쓰이는 매개변수(파라미터)에 따라 달라지는데 7B는 70억개, 21B는 210억개의 매개변수를 의미한다. 매개변수의 수는 인간 두뇌의 시냅스에 해당하는 AI 연산 단위를 의미하는데, 수가 클수록 더 많은 데이터를 학습하고 복잡한 패턴도 이해할 수 있다.

트릴리온랩스가 그동안 매개변수 70억개의 70B 모델을 개발하고 있다는 사실은 알려졌지만 그보다 사용성이 더 좋은 것으로 평가되는 21B 모델부터 공개하기로 한 것으로 보인다. 매개변수 수가 클수록 데이터 연산량이 증가하고 비용이 올라가는데 21B 모델의 경우 그래픽처리장치(GPU) 한 대에 올릴 수 있는 크기인 만큼 경제적이다.

트릴리온랩스는 네이버AI연구소 출신의 신재민 대표가 2024년 창업한 스타트업이다. 현재 시드(Seed) 단계로 지난해 미국의 굿워터캐피탈과 뱀 벤처스, 스트롱벤처스, 카카오벤처스 등으로부터 약 57억원의 투자금을 유치했다.

신 대표는 영미권 LLM을 기반으로 만든 제품에서 일어날 수 있는 편향성을 해결하고 한국 문화와 관습을 정확히 이해하는 국내 상황에 맞는 생성형 AI가 필요하다고 판단해 창업했다. 실제로 프랑스와 일본의 경우에도 소버린AI 개발에 스타트업인 ‘미스트랄AI’와 ‘사카나AI’ 등이 앞장서고 있다. 오픈AI가 처음에는 5명 남짓으로 출발한 스타트업이었음은 잘 알려진 사실이다.

트릴리온랩스는 정부가 추진 중인 1936억원 규모의 독자 AI 파운데이션 모델 개발 지원사업에서도 경쟁력이 충분하다고 보고 있다.

앞서 구현모 한국과학기술원(KAIST) 시스템공학과 겸임교수(전 KT대표)는 트릴리온랩스의 70B 모델이 머지않아 세계 최고 수준에 도달할 것으로 전망했다.

신 대표는 앞서 “한국 사람들과 산업이 필요한 AI를 만드는 것이 중요하다”며 “소버린AI는 마치 핵무기처럼 설계하고 만드는 기술 자체가 중요하다. 소버린AI의 핵심은 기술 독립성에 있다”고 강조해왔다. 그는 “장기적으로 한국의 AI 산업 뿐 아니라 AI가 활용되는 모든 영역에서 한국어를 처음부터 학습한 파운데이션 모델 원천기술을 보유한 트릴리온랩스가 혁신을 이끌 수 있다고 자신한다”며 “소버린AI를 만들 수 있다면 시장 수요에 맞는 방향으로 특화하는 것은 얼마든지 가능하다”고도 언급한 바 있다.