[WSF 2016]“인간 뛰어넘는 초지능, 100년후 나올 것”

[이데일리 김영수 기자] “컴퓨터가 인간보다 똑똑해진다면 무슨 일이 벌어질까?” 그동안 공상과학영화(SF)에서나 등장했던 (인간의 능력을 뛰어넘는)초지능을 지닌 기계가 실제 나타날 가능성에 세계가 주목하고 있다. 그럼 언제쯤 인간보다 똑똑한 기계가 탄생할 수 있을까.

1일 인공지능(AI) 연구분야의 최고 석학인 닉 보스트롬(사진) 옥스퍼드대 철학과 교수겸 인류미래연구소장은 이데일리와의 인터뷰를 통해 “지난 2년간 AI 연구는 놀라울 정도로 급속도로 진전이 있었다”며 “이런 속도를 유지한다면 AI가 보다 빨리 인간의 학습 속도를 따라잡을 수 있을 가능성도 있다”고 말했다. 그는 이어 인간을 뛰어넘는 AI의 출현은 수십 년이 아니라 적어도 100년 이후에나 가능할 것으로 내다봤다.

보스트롬 교수는 인간 지능을 능가하는 인공지능을 초지능(Superintelligence)으로 규정했다. 초지능은 인간에게 가능한 모든 지적인 업무를 수행할 수 있는 약인공지능(artificial general intelligence)의 다음 AI 발전 단계를 일컫는다.

그는 저서 ‘초지능’에서 AI의 발전에 따른 위험을 다뤘지만 부정적 측면을 강조하는 반대론자는 아니라는 입장을 밝혔다. 보스트롬 교수는 “기계의 초지능을 개발한 적이 없었다면 커다란 불행이었을 것”이라며 “땅에서 유래한 인류의 지적 문명은 실패작이 될 수도 있었다”고 강조했다. 이어 “기계 지능 시대로 전환하는 과정에서 인류에게 실존적 위험이 있다고 생각한다”며 “하지만 모든 일이 잘 풀려간다면 그에 상응하는 긍정적인 면이 있을 것”이라고 덧붙였다.

그는 AI를 둘러싼 기술경쟁은 본격적인 AI시대로의 전환시 리스크를 증가시킬 수 있는 만큼 미리미리 대비해야 할 필요성이 있다고 강조했다. 지금 세대가 무엇을 하느냐에 따라 인류 문명의 장기적인 미래가 결정될 수 있기 때문이다.

보스트롬 교수는 “현 상황에서는 AI의 발전 속도뿐 아니라 활용범위 등에 대해 예측할 수 없다”며 “따라서 우리가 원하는 방향으로 AI가 발전할 수 있도록 지금 당장 통제(제어)방법에 대한 연구를 당장 시작해야 한다”고 밝혔다.

■다음은 일문일답

△이세돌 9단과 알파고 대결에 대한 관전평은

-이세돌 9단과 알파고의 대결은 지난 몇 년간 기계 학습에서 이뤄진 진보를 극적으로 보여준다. 알파고는 IBM이 개발한 딥 블루(Deep Blue; 인공지능 체스프로그램)나 왓슨(Watson; 빅데이터를 분석·활용하는 인공지능)보다 더 흥미로운데 이는 알파고가 사용하는 알고리즘이 좀더 잠재적인 용도로 사용되기 때문이다. 예컨대 아주 사소한 부분만 수정한 상태에서 매우 다양한 완전 정보 게임에 동일하게 적용할 경우에도 잘 작동할 것이란 얘기다. 이는 전혀 놀라운 일이 아니다. 아울러 이번 바둑대결로 인공지능이 인류를 이미 앞지르고 있다고 느끼는 대중들도 많은 것 같다. 하지만 현재로선 일부 특수 작업을 제외하고는 인공지능이 인류보다 똑똑하다고 생각하지 않는다.

△초지능이란 무엇인가

-AI는 발전단계에 따라 세가지로 구분된다. 우선 약인공지능(ANI·artificial narrow intelligence)은 인간에게 가능한 모든 지적인 업무를 수행할 수 있는 상태다. 약인공지능보다 한 단계 발전한 것이 강인공지능(AGI·artificial general intelligence)이다. 강인공지능은 인간과 거의 유사한 지능 수준을 보유함으로서 자의식을 형성할 수 있는 AI다. 먼 미래에 출연하게 될 초지능(ASI·artificial super intelligence)은 자의식뿐 아니라 경제, 사회, 과학 등 거의 모든 영역에서 인류보다 훨씬 총명한 AI를 말한다. ASI 수준에서는 AI에게 ‘인류가 앞으로 1000년 동안 쓸 수 있는 신 에너지원을 만들어 내 봐’와 같은 명령이 가능해질 수도 있다. 하지만 지능에서만큼은 인간보다 초월적 존재이기 때문에 영생과 멸망이라는 두 시나리오가 존재할 수 있다.

△미래 초지능이 인간을 지배할 것으로 보는가

-‘지배할 수 있다(Can dominate)’와 ‘지배할 것이다(will dominate)’의 의미는 다르다. 나는 동물보다 지능이 더 뛰어났던 인간이 동물을 지배했듯 초지능을 갖춘 기계가 인간을 ‘지배할 수 있다’고 본다. 이는 인간 수준을 뛰어넘는 초월적 존재가 출현할 경우 인류는 한번도 겪어보지 못한 독특한 도전에 맞닥뜨리게 된다는 것을 의미한다. 결국 인류가 어떻게 하느냐에 따라 AI가 인간의 흥미와 가치에 동조돼 인류의 편이 될 뿐아니라 전에는 불가능했던 인간의 목표를 구현하는 데 도움이 될 것이다. 이러한 긍정적인 결과를 얻기 위해 필요한 기본적인 연구를 수행하는 것은 가치 있는 일이다. 이를 통해 초지능이 나타났을 때 필요한 통제기법과 통찰력 확보가 가능할 것이라고 본다.

△AI가 진화해도 인간을 따라잡지 못하는 부분이 있다면

-컴퓨터가 인간을 따라잡을 수 없는 분야가 있다고 생각하지는 않는다. 다만 인간이 수행하는 것이 더 선호되는 분야가 있다면 예외가 될 수도 있다. 예컨대 법률을 해석·적용하는 일(판사)이나 인간만이 수행할 수 있는 특수한 종교의식 등이다. 이런 역할은 AI가 할 수 없는 것으로 남을 것이다.

△당신은 ‘트랜스 휴머니스트’로 알려져 있다. 어떻게 생각하나

-트랜스 휴머니스트(trans-humanist, 첨단기술을 통해 포스트휴머니즘이 구체적으로 실현될 수 있다고 믿는 학자들)는 여러 의미로 사용될 수 있고 어떤 사람들은 나와 다른 의견을 말하면서 자신을 트랜스 휴머니스트라고 부르기도 한다. 하지만 나는 현대의 인간 조건을 일시적인 것으로 보는 경향이 있고 그런 인간의 본성이 기본적으로 미래 기술을 통해 향상될 수 있다고 생각한다. 이러한 의미에서는 트랜스 휴머니스트라고 볼 수 있다.

△AI발전을 위한 한국의 과제는 무엇인가

-한국은 과학기술이 발달한데다 고등 교육 인구가 많은 것으로 알려져 있다. 기본적인 전제 조건은 마련돼 있는 셈이다. 따라서 AI와 관련해서 수학과 컴퓨터 과학에 재능이 있는 학생들이 대학에서 1~2년 동안 기계 학습에 관한 연구에 집중한 다음 AI 시스템 연구와 개발을 계속 이어갈 수 있는 산업 분야에서 일자리를 얻을 수 있는 시스템이 마련돼야 한다고 생각한다.

△닉 보스트롬은 저서 ‘초지능’에서 지구상에 존재하는 생명체 중 인간이 강한 근육이나 날카로운 발톱을 가진 동물들보다 똑똑한 뇌를 가졌다고 역설한다. 그러나 언젠가 기계의 뇌가 인간의 뇌를 능가하는 초지능의 힘을 가지게 된다면 엄청난 파괴력을 지닐 것이라고 경고한다. 그는 책의 서두에서 참새들의 우화를 통해 주변에 위협 존재인 부엉이가 있다면 자신들을 보호할 수 있는 대책을 세워야 한다고 강조한다. 즉 초지능화된 기계가 인간을 뛰어 넘을 수 있다는 우려도 있지만 기계는 인간의 창조물이기 때문에 앞으로 초래할 수 부작용을 미리 막을 수 있다는 얘기다.