“AI 세상을 경계하라”…노벨 수상자들이 경고한 이유

노벨 물리학상을 공동수상한 제프리 힌턴 캐나다 토론토대 명예교수. (사진=AFP)

[이데일리 방성훈 기자] “인공지능(AI) 알고리즘에 의해 모든 것이 통제되는 세상이 올 수 있다.”

미국 프린스턴대의 존 홉필드 명예교수는 지난 8일(현지시간) 노벨 물리학상을 수상한 뒤 소감을 밝히며 “최근의 기술 발전이 매우 불안하다”며 이같이 경고했다.

지난 9일 노벨 화학상을 공동 수상한 데미스 허사비스 구글 딥마인드 최고경영자(CEO)도 “AI는 이로운 일을 할 수 있는 엄청난 잠재력을 가지고 있지만, 해를 끼치는 데에도 쓰일 수 있다”고 지적했다.

14일 경제학상을 끝으로 올해 노벨상 수상자 발표가 마무리된 가운데, 올해 노벨상의 최대 화두는 단연 AI였다. AI 분야에서 처음으로 노벨상 수상자가 배출된 데다, 노벨 물리학상에 이어 노벨 화학상까지 AI 연구자들이 무더기로 수상했다. 보수적인 노벨위원회가 기초과학 분야가 아닌데도 AI 연구자들을 연달아 수상자로 선정한 건 전례 없는 일이다.

가장 눈길을 끈 건 수상자들의 소감이다. AI 분야에서 선구자로 꼽히는 이들 수상자는 한목소리로 AI 기술의 급속한 발전 상황을 경계했다. 홉필드 교수는 인간의 이해 범위를 벗어난 AI 기술의 발전이 어디까지 진화할 것인지 한계를 알 수 없다며 우려를 표했다. 그는 “현대의 AI 시스템은 완벽한 경이로움으로 보이지만, 그 기능에 대한 이해가 부족해 매우, 매우 불안하다”며 “내가 (특히) 걱정하는 건 AI와 전 세계 모든 것에 대한 정보의 흐름이 결합하는 것이다. 알고리즘에 의해 통제되는 세상이 될 우려가 있다”고 힘주어 말했다.

홉필드 교수는 인공신경망을 이용한 머신러닝 기초 확립에 기여한 공로를 인정받았다. 인공신경망이 사람의 뇌처럼 정보를 기억·처리할 수 있는 이론적 모델, 이른바 ‘홉필드 네트워크’를 제시해 오늘날의 AI 모델 기초를 마련했다는 것이다.

과학 부문의 다른 수상자들도 홉필드 교수와 비슷한 견해를 내비쳤다. 노벨 물리학상을 공동수상한 제프리 힌턴 캐나다 토론토대 명예교수는 AI가 인간의 통제를 벗어날 수 있는 위협에 대해 경고했다. 그는 수상 소감에서 “우리는 역사상 일종의 분기점에 서 있다. 앞으로 몇 년 안에 이 위협에 대처할 방법이 있는지 알아내야 한다”고 강조했다.

그는 13일 CNN방송 인터뷰에서도 “(AI 혁명은) 산업혁명과 비슷할 것이다. 다만 체력 대신 지성에서 인간을 능가하게 될 것”이라며 “헬스케어 등과 같은 부문에서 생산성을 크게 향상시키는 등 AI가 사회 일부를 더 나은 방향으로 변화시킬 수 있겠지만, 통제불능 위험 등 여러 나쁜 결과를 초래할 가능성도 상존한다”고 짚었다.

그러면서 “우리(인간)보다 더 지적인 시스템이 통제권을 잡을 수 있다는 점이 우려된다. 주변을 둘러보면 지능이 낮은 것들이 지능이 높은 것들을 제어하는 사례는 거의 없다. AI가 우리보다 똑똑해지면 통제권을 넘겨받을지 궁금하다”고 거듭 꼬집했다.

이에 일부 외신들은 그를 ‘인류 멸종론자’로 묘사하기도 했다. 힌턴 교수는 물리학 이론을 활용한 AI 연구를 통해 오늘날 ‘생성형 AI 시대’를 여는 데 크게 기여했다는 공로를 인정받았다.

노벨 화학상을 공동 수상한 데미스 허사비스 구글 딥마인드 최고경영자(CEO).(사진=AFP)

지난 9일 노벨 화학상을 공동 수상한 데미스 허사비스 구글 딥마인드 최고경영자(CEO)도 “AI는 이로운 일을 할 수 있는 엄청난 잠재력을 가지고 있지만, 해를 끼치는 데에도 쓰일 수 있다”고 지적했다. ‘알파고의 아버지’로 불리는 그는 신약개발을 위한 단백질 구조를 예측하는 AI 모델 ‘알파폴드2’를 개발한 공로를 인정받아 수상했다.

이들이 경고하는 AI의 위협은 소설이나 영화 등을 통해 묘사된 것과 크게 다르지 않다. 하지만 수상자들 모두 세계 최고 AI 기술 권위자인 만큼 이들의 경고를 흘려듣긴 어렵다는 평가가 잇따른다. 아울러 소설 속 경고가 현실로 이어진 전례도 있다. 1950년 출판돼 2004년 영화로도 만들어진 아이작 아시모프 소설 ‘아이 로봇’은 작품에서 제시한 ‘로봇 3원칙’이 이후 로봇 산업은 물론, 유럽연합(EU)이 AI 및 로봇 관련 법안을 마련하는 데 있어서도 뼈대가 됐다.

CNN은 “1935년 프레데릭 졸리오와 그의 아내 이렌 졸리오-퀴리가 최초의 인공 방사성 원자를 발견한 공로를 인정받아 노벨 화학상을 공동 수상했을 때와 유사한 상황”이라며 “당시 졸리오 부부의 연구 성과는 암 치료를 포함해 의학의 중요한 발전에 기여했지만, 동시에 원자 폭탄의 창조에도 기여했다”고 짚었다.

이번 노벨상 시상식에서 또다른 관전 포인트는 14일 노벨 경제학상을 수상한 미국 메사추세츠공대(MIT)의 다론 아세모글루·사이먼 존슨 교수가 AI 회의론자라는 점이다. 아세모글루 교수는 AI 기술 발전이 예상만큼 빠르지 않을 뿐더러, 챗GPT와 같은 생성형 AI는 인간 수준의 지혜나 판단력이 없어 인간을 대체하기도 쉽지 않을 것으로 보고 있다.

앞서 그는 블룸버그통신 인터뷰에서 “AI를 둘러싼 현재의 과장된 기대처럼 상황이 전개될 가능성은 거의 없다”며 “향후 10년간 AI에 의해 대체되거나 적어도 강력히 도움을 받을 수 있는 직업은 전체의 5%에 불과하다”고 주장했다. 이는 과학 부문 수상자들의 견해와 대비된다.

아제모글루 교수와 존슨 교수는 도널드 트럼프 전 대통령의 2020년 대선 결과 불복에 대한 우려를 내비치기도 했다. ‘국가는 왜 실패하는가’의 공동 저자인 두 교수는 민주주의의 중요성을 강조하며 “오는 11월 5일 대통령 선거는 미국 민주주의에 대한 ‘심각한 스트레스 테스트’”라고 짚었다.

이외에도 지난 11일 반핵 단체인 일본 원폭피해자단체협의회가 올해 노벨 평화상을 수상함에 따라 반핵 기조를 유지했다는 진단이다. 1974년엔 핵무기를 만들거나, 보유하거나, 반입하지 않는다는 ‘비핵 3원칙’을 발표한 사토 에이사쿠 전 일본 총리가, 2017년엔 핵무기폐기국제운동(ICAN)이 각각 노벨 평화상을 수상했다.