LG CNS, 기업용 생성형AI 플랫폼 'DAP GenAI' 출시

by김가은 기자
2023.10.12 09:18:19

LG CNS 직원들이 생성형 AI 플랫폼 「DAP GenAI」를 소개하는 모습(사진=LG CNS)

[이데일리 김가은 기자] LG CNS는 기업용 생성형 인공지능(AI) 플랫폼 ‘DAP 젠(Gen) AI’를 출시했다고 12일 밝혔다.

DAP 젠AI는 △AI 서비스 △AI 프롬프트 △거대언어모델(LLM)옵스 등 3대 모듈을 제공한다. 자체 서버, 클라우드 등 보유 중인 인프라에 설치하기만 하면 자유롭게 사용할 수 있는 점이 특징이다.

DAP 젠AI는 기업이 가진 문서, 데이터베이스(DB) 등 내부 정보자산을 활용하고, 다양한 보안 필터 등을 적용할 수 있어 거짓이나 왜곡된 내용을 생성하는 정보 왜곡현상(할루시네이션)을 방지하고 보안 고민도 해결한다.

3대 모듈 중 ‘AI 서비스’는 생성형 AI 서비스를 빠르게 기획·개발·배포하도록 돕는다. 오픈AI ‘챗GPT’, 앤트로픽 ‘클로드(Claude)’, 구글 ‘팜2(PaLM2), LG AI연구원 ‘엑사원(EXAONE)’ 등 다양한 LLM을 활용할 수 있다. 이를 통해 문서 요약, 분류와 같은 단순한 AI 서비스부터 상품 추천, 자료 기반 보고서 작성 등과 같은 복잡한 서비스도 만들 수 있다.

예를 들어 금융사에서 소비자를 위한 보험상품 추천 AI 서비스를 개발하고 싶다면 △질문을 입력한 소비자 정보를 확인할 기업의 고객정보 데이터베이스 △알맞은 상품을 검색해주는 프롬프트 △추천과 답변에 적합한 LLM을 각각 선택해 설정하기만 하면 된다. 개발이 완료된 서비스는 플랫폼을 통해 실제 운영 환경에 맞춰 테스트도 가능하다. 내부 정보유출 방지를 위한 필터 기능도 탑재돼 있다.



‘AI 프롬프트’는 생성형 AI의 활용에 있어 가장 중요한 ‘프롬프트’를 만들 수 있는 모듈이다. 여기에는 AI가 정교한 답변을 할 수 있도록 명령어를 만드는 ‘프롬프트 엔지니어링’ 노하우가 탑재돼 있다. 마케팅 문구 생성 등과 같이 LG CNS 전문가들이 미리 구현해둔 프롬프트를 즉시 사용하거나, 이를 기반으로 새로운 프롬프트를 만들어 업무에 빠르게 적용할 수 있다.

‘LLM옵스’는 기업이 엑사원이나 다양한 오픈소스 LLM을 파인튜닝(미세조정) 함으로써 비즈니스에 특화된 LLM을 만들 수 있도록 한다. 민감한 데이터를 다루는 금융, 공공 등처럼 ‘프라이빗 LLM’을 보유하고자 하는 고객을 위한 모듈이다. 고객은 원하는 LLM을 선택해 보유하고 있는 데이터를 학습시킬 수 있다.

LLM을 학습시킬 때에는 매개변수(파라미터) 값을 별도 설정해 성능도 유연하게 조정할 수 있다. 학습 과정은 실시간으로 모니터링 가능하다. 따라서 진행상황을 보면서 학습을 멈추고 데이터를 조정하는 등 개입을 할 수 있다. 제작된 모델들간 성능 비교도 지원한다.

LG CNS는 고객이 상황별로 서비스 최적의 LLM을 선택해 활용할 수 있도록 DAP 젠AI를 지속 고도화해나갈 계획이다. 복수의 LLM을 활용하는 고객 맞춤형 ‘멀티 엔진(Multi-Engine)’ 전략의 일환이다.

박상균 LG CNS D&A(Data Analytics&Artificial Intelligence)사업부장 전무는 “LG CNS의 생성형 AI 기술 역량을 집약해 고객이 손쉽게 사용할 수 있는 플랫폼을 구현했다”며 “앞으로도 고객이 생성형 AI와 같은 원천기술을 통해 비즈니스를 혁신할 수 있도록 앞장서겠다”고 했다.