생성형 AI 심은 오라클…"OCI에서 LLM 통합 지원"

(사진=오라클)

[이데일리 김가은 기자]오라클은 오라클 클라우드 인프라스트럭처 생성형 AI(Oracle Cloud Infrastructure Generative AI) 서비스를 제한적으로 출시한다고 21일 발표했다.

새로운 생성형 AI 서비스는 거대언어모델(LLM)을 지원해 기업의 엔드투엔드 비즈니스 프로세스 자동화, 의사결정 과정 개선, 고객 경험 향상 및 안전한 데이터 보호를 지원할 예정이다.

OCI 생성형 AI 서비스는 기업용 AI 플랫폼 제공업체인 코히어(Cohere)와의 협업해 구축됐다. 사용자가 애플리케이션 프로그래밍 인터페이스(API)를 통해 LLM을 자체 애플리케이션에 통합할 수 있도록 지원하는 관리형 서비스다.

코히어 모델을 기업에 특화된 관리형 서비스로써 활용할 수 있게 지원할 예정이다. OCI 생성형 AI 서비스를 사용하는 고객은 오라클 AI 수퍼클러스터 아키텍처 기반 전용 인프라스트럭처에서 워크로드를 실행할 수 있으며, 이를 통해 고객은 자체 데이터로 모델을 미세 조정하거나 자체 커스텀 모델을 배포하는 데에 필요한 비용, 처리량 요구 사항을 직접 관리할 수 있게 된다.

정식 출시 이후에는 ‘검색 증강 생성(retrieval augmented generation; RAG)’을 제공하는 오라클 데이터베이스 23c(Oracle Database 23c) 기능과도 원활하게 작동할 예정이다. 검색 증강 생성은 사전 학습된 LLM과 독점 비즈니스 데이터를 결합해 더 높은 정확도로 응답을 제공하는 생성형 AI 기술이다.

또한, OCI 생성형 AI 서비스는 오라클 퓨전 클라우드 애플리케이션 제품군(Oracle Fusion Cloud Applications Suite), 오라클 넷스위트(Oracle NetSuite) 등 서비스형 소프트웨어(SaaS) 애플리케이션 제품군과 오라클 서너(Oracle Cerner) 등 산업용 애플리케이션 전반에 내장될 생성형 AI 기반이 될 예정이다.

클레이 마고요크(Clay Magouyrk) OCI 총괄 부사장은 “오라클의 독보적 산업 지식을 바탕으로 최첨단 생성형 AI 서비스를 구축할 수 있었다. 기업 조직은 이를 활용해 프로세스를 자동화하고, 의사결정 과정을 개선하며, 고객 경험을 향상할 수 있다”며 “오라클과 코히어의 파트너십을 통해 고객은 오라클 솔루션이 그들의 가장 엄격한 데이터 보안과 개인정보 보호 요구 사항을 충족시킨다는 확신을 갖고 생성형 AI를 기술 스택에 손쉽고 안전한 방식으로 적용할 수 있게 될 것“이라고 했다.