세계 최초 초거대 특허전용 언어모델, 첫 공개

by박진환 기자
2023.12.21 13:38:30

이인실 특허청장(왼쪽에서 5번째)이 배경훈 LG AI연구원 원장(왼쪽에서 4번째) 및 관계자들과 기념촬영을 하고 있다. (사진=특허청 제공)

[이데일리 박진환 기자] 특허청은 LG AI연구원과 21일 정부대전청사에서 인공지능(AI) 개발에 대한 양 기관의 협력 성과를 공유하는 발표회를 개최했다. 이날 행사에는 올해 양 기관이 협력해 세계 최초로 구축한 초거대 특허전용 언어모델을 처음으로 공개했다. 특허청은 지난 7월 LG AI연구원과 특허행정을 혁신하기 위해 AI 기술을 특허행정에 적용하는 업무협약을 체결했고, 그 첫번째 협력 과제로 초거대 특허전용 언어모델을 구축해 왔다. 이번 언어모델은 LG AI연구원이 보유하고 있던 초거대 AI ‘엑사원(EXAONE)’에 특허청이 보유하고 있는 특허공보 등 특허행정과 관련된 7종의 데이터(1.78TB)를 학습해 구축됐다. 또 특허청의 환경 및 활용목적 등을 고려해 88억 파라미터 규모로 설계됐으며, 2차에 걸친 학습 과정을 통해 성능을 향상시켰다.



이에 따라 성능평가 결과, 문장 요약, 번역 등 전체 평가 태스크에서 평균 이상의 결과를 보였으며, 분야별 튜닝이 이뤄지면 보다 더 향상된 성능을 발휘할 것으로 기대된다. 특허청은 이번에 구축된 특허전용 언어모델을 기초로 내년부터 특허검색, 분류 등 심사 업무를 혁신하기 위한 연구개발에 본격 착수할 계획이다. 이번 성과 발표회에서는 앞으로 양 기관이 AI 심사시스템 개발을 위해 협력할 내용도 함께 논의될 예정이다. 이인실 특허청장은 “AI 영역에 강점이 있는 LG AI연구원과의 긴밀한 협력을 통해 특허전용 AI를 개발하게 된 것을 기쁘게 생각한다”면서 “앞으로도 특허행정 분야에 혁신적인 기술을 적극적으로 도입해 특허 시스템의 발전을 이끌겠다”고 밝혔다. 배경훈 LG AI연구원장은 “LG AI연구원은 특허청의 특허 문헌을 바탕으로 학습한 엑사원이 특허 분야 업무의 생산성을 혁신해 우리나라 AI 산업 발전에 토대가 되기를 희망한다”면서 “앞으로도 특허청과 긴밀하게 협력해 전문가 AI의 글로벌 선진 활용 사례를 만들어 갈 것”이라고 화답했다.