“기업용 LLM 앱 쉽게 만드세요”…美 스택AI와 경쟁한다

[이데일리 김현아 기자]

이창수 올거나이즈 대표. 사진=올거나이즈

“하이퍼클로바X(네이버), 챗GPT(오픈AI), 팜2(구글), 클로드2(앤트로픽)할 것 없이 기업들이 저희 플랫폼을 이용하면 쉽게 기업용 거대언어모델(LLM)앱을 만들 수 있습니다.”

얼마전 미국에서 한국을 찾은 이창수 올거나이즈 대표는 회사의 비즈니스 모델을 ‘AI 이네이블러(enabler·조력자)’라고 했다. 얼마전까지 기업 내부 문서 검색에 집중했는데, 기업을 위한 ‘LLM 플랫폼’ 회사로 변신에 성공한 것이다.

한미일 3국에 사무실 둔 기업

올거나이즈는 AI 자연어이해, 비정형 문서인지 분야에선 기술력을 인정받았다. 올거나이즈는 이창수 대표가 파이브락스(5Rocks)를 창업하고 2014년 미국 모바일 광고 업체 탭조이(Tapjoy)에 약 500억원에 매각한 뒤 2017년 설립한 회사다. 한국과 미국, 일본에 사무실을 두고 2,500여 곳의 국내외 기업을 기업용 AI 솔루션과 서비스 고객사로 두고 있다. 특히 일본에선 SMBC, 노무라증권, KDDI(일본 2위 민간통신사), 일본 외무성 등이 고객으로, 2025년 일본 증시에 상장하는 게 목표다.

올거나이즈는 글로벌 3개국 직원을 합쳐 60여명에 불과한 작은 규모지만, ‘LLM 플랫폼’이란 황금 시장에 뛰어들었다. 이창수 대표는 “기업이나 기관이 생성형AI를 활용하려면 LLM과 연동하는 것만으론 부족하다”면서 “인프라나 미들웨어 단에서 기업들이 쉽게 생성형AI 앱을 만들 수 있게 도와야 한다”고 했다.

노코드 AI자동화 플랫폼…200여 곳이 고객사

기업들이 자사에 맞는 LLM 앱을 만드는데 필요한 ‘노코드 AI 자동화 플랫폼’이란 점에서, 미국의 스택AI와 유사하다. 그는 “많은 기업이나 기관이 업무에 생성형AI를 쓰고 싶어 하지만 쉽지 않은 부분이 많다”며 “저희는 AI 앱마켓에서 이미 50개 이상의 앱을 제공중이고, 또 기업들이 쉽게 만들 수 있도록 패키지를 제공하기도 한다”고 설명했다.

올거나이즈의 LLM 플랫폼 전략은 앤드류 응 스탠포드대 교수가 가장 주목할 시장이라고 했던 ‘생성형AI 애플리케이션 서비스’ 시장을 넓히는데 기여할 전망이다. 이 대표는 “기업이나 기관 입장에서 LLM을 활용하고 싶어도 프롬프트(명령어)에 대한 버전 관리, 각종 사내 서비스와의 연결, 보안 문제 등으로 어려움을 겪는다”면서 “그런데 우리의 앱생성 툴을 이용하면 GUI(그래픽사용자인터페이스)로 쉽게 할 수 있다. 대부분 서비스형 소프트웨어(SaaS)형태로 서비스한다”고 했다.

하지만, 보안이 중요한 곳에선 온프레미스(기업 전산실에 직접 설치해 운영하는 방식)상황에서 서비스할 수 있도록 돕기도 한다. 일본 외무성 등이 대표적이다. 또한, 클라우드 운영관리(MSP)회사와 제휴해 기업용 AI시장을 확대하고 있다. 글로벌하게 고객 수가 200여 곳이고, 한국에서도 30~40곳이나 된다고 한다.

기업용 서비스에서 중요한 정확성을 높이기 위해 ‘환각(hallucination)’을 줄일 순 있을까. 이 대표는 “아예 없앨 수는 없고 엄청 낮출 순 있다”면서 “LLM이 그냥 아는 것에서 답하지 않게 하고 주어진 정보에 기반해 답을 하게 하는 것”이라고 설명했다.

마이크로소프트, 구글 등 글로벌 빅테크들의 격전장이 된 기업용 AI 솔루션 시장에 대해선 “그들과 경쟁한다기 보다는 함께 시장을 키워간다고 생각한다”면서 “기업용 LLM 앱 마켓을 더 키우고, 도메인별로 특화하고, 외부 개발자들도 저희 플랫폼 위에서 쉽게 LLM앱을 만들 수 있게 하는 게 목표”라고 했다.