IBM, 왓슨x에서 메타 ‘라마 3.1’ 및 ‘미스트랄 라지 2’ 지원

by김현아 기자
2024.08.01 10:19:02

[이데일리 김현아 기자] IBM이 메타의 ‘라마 3.1’과 미스트랄 AI의 ‘미스트랄 라지 2’ 모델을 자사의 왓슨x.ai 플랫폼에서 지원한다고 발표했다. 이로써 기업들은 IBM 그래니트, 라마 3.1, 미스트랄 라지 2 등 고성능 오픈소스 AI 모델을 용도와 필요에 맞게 자유롭게 선택하고 맞춤화할 수 있게 됐다.

이번에 추가된 라마 3.1은 80억 개, 700억 개, 4050억 개의 매개변수를 가진 세 가지 사전 학습된 오픈소스 생성형 AI 모델로 구성돼 있다.

특히, 라마 3.1-405B 모델은 한 번에 처리할 수 있는 문맥의 길이가 토큰 8192개에서 12만 8000개로 16배 증가하여, 약 8만 5000 영어 단어에 해당하는 방대한 양의 데이터를 처리할 수 있다.

이 모델은 GPT-4o와 같은 상업적 모델들과 경쟁할 만한 성능을 보이며, 텍스트 생성, 합성 데이터 생성, 지식 증류 등 다양한 AI 활용 사례에 적합하다.

미스트랄 라지 2 모델은 1230억 개의 매개변수를 통해 코딩과 수학 분야에서 뛰어난 성능을 발휘하며, 80가지 이상의 코딩 언어를 지원한다.

또한, GPT-4o, 클로드 3 오푸스, 라마 3.1 405B와 같은 최첨단 모델들과 동등한 수준의 성능을 제공하며, 향상된 추론 능력으로 환각이나 그럴듯하게 들리는 거짓 답변을 최소화한다.



기업들이 AI 모델을 선택할 때는 모델의 크기와 성능, 비용 등을 고려해야 합니다. 성능이 뛰어난 대형 모델은 높은 정확도를 제공하지만, 비용이 더 많이 들고 속도가 느릴 수 있다. 반면, 크기는 작지만 특정 환경에 최적화된 모델은 더 빠르고 비용 효율적일 수 있다. IBM 왓슨x는 이러한 다양한 요구를 반영하여, 고객이 용도와 목적, 가격과 성능의 최적 균형을 가진 AI 모델을 선택할 수 있도록 지원한다.

IBM 왓슨x는 사내 서버, 퍼블릭, 프라이빗, 하이브리드 클라우드 등 다양한 인프라 환경에서 모델을 활용할 수 있는 유연성을 제공하며, AI 기반 비즈니스 애플리케이션 개발, 데이터 소스 관리, 맞춤형 미세 조정, 애플리케이션 통합을 위한 직관적인 업무 프로세스를 지원한다.

한편, 미스트랄 라지 2 모델은 상업적 사용을 위해 미스트랄 AI의 ‘미스트랄 커머셜 라이선스’가 필요하지만, IBM 왓슨x에서는 상업적 목적으로도 자유롭게 사용할 수 있다.