中 'AI 증류' 기승…오픈AI·앤스로픽·구글 손잡는다

[이데일리 김겨레 기자] 인공지능(AI) 시장 주도권을 잡기 위해 경쟁 중인 오픈AI와 앤스로픽, 구글이 중국의 AI 복제를 막기 위해 협력하기로 했다.

딥시크와 챗GPT. (사진=AFP)

블룸버그통신은 6일(현지시간) 오픈AI와 앤스로픽, 구글이 마이크로소프트가 2023년 설립한 비영리단체 ‘프론티어 모델 포럼’을 통해 정보를 공유해 적대적 데이터 추출 시도를 탐지하고 있다고 보도했다. 오픈AI의 챗GPT와 앤스로픽 클로드, 구글 제미나이가 AI 시장에서 치열하게 경쟁하면서도 보안을 위해 협력하는 이유는 중국의 무단 복제를 막기 위해서다. 세 회사는 외부의 공격 기법을 더 효과적으로 탐지하고 책임자를 파악하고 권한 없는 사용자의 접근을 차단하기 위해 협력할 예정이다. 도널드 트럼프 미국 대통령도 지난해 AI 행동 강령을 발표하며 AI 기업의 정보 공유 센터를 설립할 것을 제안했다.

중국은 ‘증류’라는 기술을 이용해 이미 개발된 AI 모델의 출력값을 바탕으로 자체 AI 모델을 학습시키는 것으로 전해졌다. AI 학습에 드는 시간과 비용을 크게 줄이기 위한 것으로 기업에 더 작고 효율적인 자체 버전을 만들도록 유도하거나 자사 모델 학습 기술을 개발하도록 허용하고 있다.

미국에서는 제3자 또는 중국과 러시아 등 적대국이 허가 없이 AI를 증류해 최소한의 안전장치가 사라진 AI를 개발할 수 있다는 우려가 확산하고 있다. 오픈AI는 지난 2월 미 의회에 보낸 메모에서 챗GPT를 증류하는 방식으로 딥시크가 개발됐다고 주장했다. 오픈AI는 챗GPT 오용을 막기 위한 보안을 강화했음에도 중국이 미국의 AI 모델에서 결과를 추출하기 위해 점점 더 정교한 기술을 사용하고 있다고 언급했다. 앤스로픽도 지난 2월 딥시크와 문샷, 미니맥스 세 곳의 중국 AI 기업이 증류를 통해 클로드의 기능을 불법적으로 추출했다고 밝혔다. 앤스로픽은 중국 기업의 클로드 사용을 차단했다. 구글도 적대 행위자들의 AI 증류 시도가 증가했다고 했다.

중국에서 개발한 AI 모델은 대부분 개방된 형태로 기본 AI 시스템의 일부를 공개적으로 이용할 수 있어 사용자들이 자유롭게 다운로드하고 실행할 수 있어 사용 비용이 저렴하다. 이는 AI 모델을 독점적으로 운영하는 미 AI 기업에 경제적 압박으로 작용하고 있다. 미 AI 기업은 딥시크가 증류 기술을 활용해 대대적인 업그레이드를 할 것으로 보고 있다. 블룸버그는 “미 AI 기업은 무단 증류가 국가 안보에 위협이 될 수 있고 가격 경쟁력을 떨어뜨려 고객을 빼앗아 갈 수 있다고 우려하고 있다”고 전했다.