딥시크, 유엔 안보리서 AI 위험 브리핑…오픈AI도 참석

[이데일리 신수정 기자] 중국 인공지능(AI) 스타트업 딥시크가 유엔 안전보장이사회에서 AI 위험을 브리핑한다. 오픈AI와 앤트로픽 등 미국의 주요 AI 기업도 참석할 예정이어서 AI 개발 속도와 안전 문제를 둘러싼 미중 간 시각차가 유엔 안보리 무대에서 드러날 전망이다.

딥시크. (사진=연합뉴스)

22일 로이터통신은 사안에 정통한 소식통 2명을 인용해 딥시크가 이번 주 유엔 안보리에서 AI가 초래할 수 있는 위험에 대해 설명할 예정이라고 보도했다.

15개 이사국으로 구성된 안보리는 23일 AI와 국제안보를 주제로 회의를 연다. 이달 안보리 의장국인 프랑스가 회의를 소집했다. 각국 정상이 유엔총회 참석을 위해 뉴욕에 모인 가운데 열리는 회의다.

오픈AI의 샘 올트먼 최고경영자(CEO)는 직접 참석해 브리핑할 계획이다. 외교관들은 앤트로픽 고위 관계자도 참석할 것으로 예상하고 있다.

중국에서는 딥시크 외에도 문샷 등 여러 AI 기업이 발언 초청을 받았다고 소식통은 전했다. 다만 딥시크 창업자인 량원펑은 직접 참석하지 않을 것으로 알려졌다. 소식통은 막판에 참석 계획이 바뀔 가능성도 있다고 덧붙였다. 딥시크와 문샷은 로이터의 논평 요청에 답하지 않았다.

이번 회의는 AI 모델의 능력이 빠르게 높아지면서 인간이 통제하기 어려운 수준에 이를 수 있다는 우려가 커지는 가운데 열린다.

앤트로픽의 다리오 아모데이 CEO를 비롯한 일부 미국 AI업계 인사들은 최근 첨단 AI 시스템이 스스로 능력을 개선하고 인간의 통제를 벗어날 가능성을 경고하며 업계 차원의 개발 속도 조절을 주장했다.

AI 위험을 바라보는 미국과 중국의 입장에는 차이가 있다. 미국 AI 기업 경영진들이 초고도 AI의 위험성을 잇달아 공개적으로 경고한 것과 달리 중국의 주요 AI 개발업체들은 관련 논쟁에 공개적으로 목소리를 내는 데 비교적 신중한 모습을 보여왔다.

중국 정부는 AI 개발 속도를 늦춰야 한다는 주장에도 반대하고 있다. 중국 측은 미국이 AI 분야의 기술적 우위를 유지하기 위해 개발 속도 조절을 주장한다고 비판해왔다.

유엔 안보리가 AI 문제를 논의하기 시작한 것은 2023년이다. 당시 중국은 AI가 통제를 벗어난 ‘고삐 풀린 말’이 돼서는 안 된다고 강조했고, 미국은 일부 정부가 AI를 검열과 억압에 이용할 가능성을 경고했다.

프랑스가 이번 회의를 앞두고 배포한 개념문서에는 AI의 악의적 사용과 고도화된 AI 모델에 대한 통제력을 잃을 위험 등이 주요 논의 대상으로 제시됐다.

미중 정부도 AI 안전 문제를 별도로 논의하고 있다. 양국은 최근 AI 안전을 놓고 추가 협의를 진행하기로 했으며, 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석의 정상회담을 앞두고 AI가 양국의 주요 현안으로 부상했다.

딥시크는 지난해 저비용 추론 모델 R1을 공개하며 세계 AI 시장의 주목을 받았다. 이번에는 중국의 대표적인 AI 개발업체가 미국의 주요 AI 기업들과 함께 국제안보를 다루는 유엔 안보리에서 AI 위험 문제를 직접 논의하게 됐다.