[WSF 2016]"AI를 독점한 지배계층이 생겨나면 어떻게 하죠?"

by박기주 기자
2016.06.15 14:53:10

[이데일리 한대욱 기자] 닉 보스트롬(오른쪽) 옥스퍼드대 인류미래연구소장과 정재승 카이스트 교수가 15일 서울 중구 장충동 신라호텔에서 열린 ‘제7회 이데일리 세계전략포럼(WSF)’에서 오찬을 함께하며 대담하고 있다.

[이데일리 박기주 김용갑 기자] “인공지능(AI)을 이용해 다른 인간을 지배하려는 사람들이 생겨나지는 않을까요?” “어떻게 하면 AI를 통제할 수 있을까요?”

15일 서울 중구 신라호텔에서 열린 제7회 이데일리 세계전략포럼(WSF)의 ‘닉 보스트롬 & 정재승과 함께하는 오찬’ 특별대담에서 참석자들의 다양한 질문이 쏟아졌다.

닉 보스트롬 옥스퍼드대 인류미래연구소장과 정재승 한국과학기술원(KAIST) 바이오·뇌공학과 교수와 함께 점심식사를 하며 진행된 특별 대담에는 산업계와 정부 관계자, 학생 등 여러 분야의 인사들이 참석했다.

먼저 정 교수가 보스트롬 소장에게 “AI와 공생할 수 있는 방안이 어떤 것이 있느냐”는 질문을 던지며 특별 대담이 시작됐다.

보스트롬 소장은 이에 대해 “우선 AI를 통제할 수 있는 기술적인 연구가 진행돼야 하고, 이 작업은 여러 연구진이 커뮤니티를 형성해 협조·공조하는 것이 중요하다”면서도 “다만 아직은 구체적으로 어떤 문제가 발생할지 예측할 수 없기 때문에 정부가 개입하는 것은 시기상조일 것”이라고 설명했다.

그는 또 “초지능 AI의 개발 시기는 시간문제일 뿐”이라며 “AI에 대한 관심을 건설적인 방향으로 이끌어 갈 수 있을 것인가에 대해 생각해야 하고, 지금은 AI의 혜택과 장점에 집중해야 할 때”라고 강조했다.



보스트롬 소장이 말을 끝내자 참석자들의 질문이 이어졌다. 유정범 메쉬코리아 대표는 “AI를 제어하기 위해 (전원을) 끌 수 있도록 하는 통제방안이 제시된 바 있다”며 이에 대한 의견을 물었다.

보스트롬 소장은 “AI의 손을 뒤로 묶고, 인터넷을 끊고, 박스에 넣어둔다고 해도 우리가 상상하는 초지능 AI라면 탈출할 가능성이 크다”며 “우리는 인간에게 위해를 가하지 않도록 하는 인간 친화적인 시스템을 AI에 삽입하는 것이 더 중요하다”고 말했다.

또한 AI가 인간에게 위해를 가하기 전에 AI를 가진 인간이 그렇지 못한 인간을 지배하려고 하지 않겠냐는 현실적인 질문도 나왔다. 자본과 기술이 결탁해 자본이 없는 이들이 피지배계층으로 전락할 수 있다는 우려다.

그는 이에 대해 “기술적인 통제 문제를 해결한다 해도 누가 어떤 형태로 이용하는가에 대한 문제가 남는다”며 “지금까진 이에 대한 연구와 논의·대화가 진전이 안 됐는데 이에 집중할 필요가 있다”고 밝혔다. 이어 “초지능 AI는 모든 인류를 위해 사용돼야 하고, 특정 사기업이나 국가가 이를 독점하면 안 된다”며 “초지능 AI를 도입하기 위해 경쟁하고, 승자가 모든 것을 독식하는 체제는 위험하기 때문에 처음부터 공조에 기반을 둔 개발이 필요하다”고 지적했다.

인간이 통제권을 기계에 주면서까지 AI 기술을 받아들여야 하는지 의문이라는 지적도 제기됐다. 부작용이 예상되는 상황에서 이를 개발할 유인이 없지 않느냐는 것이다.

보스트롬 소장은 “개발 가능한 기술을 논할 때 가장 바람직하지 않은 질문이 그 기술이 좋을지 나쁠지를 미리 생각하는 것”이라며 “이런 생각을 하기 전에 어떤 기술이 개발되는 게 좋을지를 생각하는 게 좋다”고 언급했다.