AI안전연구소 개소…"규제 아니라 위험 줄이는 협력 기관될 것"

by최연두 기자
2024.11.27 09:30:00

[이데일리 최연두 기자] 과학기술정보통신부는 27일 경기 분당구에 위치한 판교 글로벌 연구·개발(R&D)센터에서 ‘인공지능(AI) 안전연구소’ 개소식을 개최했다.

인공지능(AI) 안전연구소 관련 인포그래픽(사진=과학기술정보통신부)

지난 5월 AI 서울정상회의에서 10개국 정상은 안전성이 책임있는 AI 혁신을 위한 핵심 요소임을 확인하고, AI 안전연구소 설립과 안전한 AI에 대한 글로벌 협력을 강조했다. 윤석열 대통령도 “대한민국 AI 안전연구소 설립을 추진해 글로벌 AI 안전성 강화를 위한 네트워크에 동참할 것”이라는 의지를 밝혔다. 과기정통부는 그간 연구소 조직과 예산, 인력 기능에 대한 면밀한 사전 준비를 거쳐 AI 안전연구소를 출범했다.

AI 안전연구소는 AI의 기술적 한계, AI 기술 오용, AI 통제력 상실 등으로 발생하는 AI 위험에 체계적·전문적으로 대응하기 위한 연구 전담 조직으로 산·학·연 기관이 연구 협력과 정보 교류를 할 수 있도록 지원한다. 한국은 국제 AI 안전연구소 네트워크의 일원으로 안전한 AI를 위한 글로벌 연대의 책임있는 역할을 수행해 나갈 계획이다.

이날 국가AI위원회 글로벌 자문위원인 AI 분야 세계적 석학 요슈아 벤지오 교수는 축사를 통해 “서울선언에 따라 한국 정부가 AI 안전연구소를 설립하게 된 것을 축하한다”면서 “AI 안전연구소의 역할로 업계와 협업을 통한 위험 평가방법 연구, AI 안전성 요건 수립 지원, 국제 협력을 통한 AI 안전체계의 상호 조화가 중요하다”고 강조했다.



AI 안전연구소 초대 소장으로 임명된 김명주 소장은 연구소 비전과 운영 계획을 발표했다. 그는 “AI 활용으로 발생할 수 있는 제반 위험 평가와 이를 예방하고 극소화하기 위한 정책·기술을 개발하고, 국내외 연대를 강화해 나갈 것”이라며 “연구소는 규제 기관의 성격이 아니라 국내 AI 기업들이 글로벌 경쟁력을 확보하는데 장애가 되는 위험 요소들을 최소화하도록 지원하는 협력기관으로 역할을 하겠다”고 강조했다.

이어진 ‘대한민국 AI안전컨소시엄’(이하 컨소시엄) 협약식에서는 AI 분야 국내 산·학·연 기관 총 24곳이 참여한 가운데 AI 안전에 관한 정책 연구, 평가, R&D의 상호협력을 위한 업무협약(MOU)을 체결했다. AI 안전연구소와 컨소시엄 참여기관은 함께 AI 안전 프레임워크 연구, 개발, 실증, AI 안전 관련 국제 규범 대응 등 정책연구, AI 안전 관련 기술 협력 등을 중점적으로 추진할 계획이다.

앞서 지난해 11월 영국 AI 안전성 정상회의, AI 서울정상회의 이후 1년 만에 미국, 영국, 일본, 싱가포르, 캐나다 등 주요국이 모두 AI 안전연구소를 설립한 바 있다.

유상임 과기정통부 장관은 “AI 안전은 지속가능한 AI 발전의 전제로 AI 분야에 종사하는 우리 모두가 함께 해결해 나가야할 가장 큰 도전 과제”라며 “AI 안전연구소를 중심으로 안전의 기술과 정책적 역량을 조속히 확보해 대한민국 AI 산업 혁신을 촉진할 튼튼한 안전 기반을 구축하는 한편, 글로벌 AI 안전 연대의 주도적인 역할을 수행해 아태지역을 대표하는 AI 안전 연구 허브로 발전해 나갈 수 있도록 적극 지원하겠다”고 말했다.