'브뤼셀 효과' 창시자 "혁신 늘 유익하진 않아…AI폐해 민주적 통제해야"

by김상윤 기자
2024.01.04 05:00:00

[뉴욕=이데일리 김상윤 특파원] 2022년 말 챗GPT가 등장한 이후 인공지능(AI) 개발 속도가 기하급수적으로 빨라지고 있다. 동시에 AI 주도권을 쥐며 글로벌 디지털 질서를 주도하기 위한 미국, 유럽연합(EU), 중국의 움직임도 재빨라지고 있다. 자국의 영향력, 이익, 가치를 증진하기 위해서다. AI 혁신 못지않게 올해가 AI 규제의 ‘르네상스’가 될 것이라는 전망까지도 나올 정도다. 중국은 국가 주도의 디지털 권위주의를, 미국은 시장 주도의 감시 자본주의를, EU는 자유민주주의적 개인주의를 추구하면서 ‘디지털 제국’이 되기 위한 경쟁을 펼치고 있다.

AI를 둘러싼 세계 패권 전쟁은 어떻게 흘러가고, 누가 주도권을 쥘 수 있을까. AI 혁신을 살리면서 적절한 규제가 가능할까. 신년을 맞아 국제통상법 석학인 아누 브래드포드 미 컬럼비아대 로스쿨 교수를 2일(현지시간) 인터뷰했다. 브래드포드 교수는 EU의 규칙이 곧 세계 표준이 되는 이른바 ‘브뤼셀 효과’라는 용어를 만든 주역으로, 디지털 규제 관련해서 전 세계에서 손꼽히는 최고 전문가다. 유럽의 AI 규제안(AI Act) 제정에도 상당한 기여를 했다. 한국 언론과는 첫 인터뷰다.

아누 브래드포드 미 컬럼비아대 로스쿨 교수

△규제는 기술 속도를 따라잡는 경우가 없기 때문에 만들기 매우 어렵다. AI 기술 개발 속도가 매우 빨라 규제가 만들어져도 시대에 뒤떨어질 수 있다. 그렇다고 규제를 안 할 경우 인류가 AI 위험에 그대로 노출될 수밖에 없다. 진흥과 규제에 적절한 균형이 있어야 한다. AI 폐해를 효과적으로 칼로 도려내 규제를 해야 한다.

△일단 아주 가까운 시기에 일어날 폐해에 대해 더욱 집중해야 한다. AI가 허위정보와 잘못된 정보를 증폭시킬 수 있다는 우려가 크다. 전 세계에서 올해 매우 중요한 선거를 치른다. AI를 통해 거짓된 정보를 확산시키고 민주적 선거를 훼손하는 행위는 막아야 한다.

내년에 당장 AI가 인류를 파멸시킬 것이라고 생각하지 않지만, 전쟁과 군사적 긴장이 고조되는 상황에서 군사 AI분야에서 통제도 필요하다. 그렇다고 확실하고 임박한 위험에 집중할 것을 희생하면서까지 군사적 통제에 집중할 필요는 없다고 본다.

△모든 규제가 유익하지 않은 것처럼 혁신도 마찬가지다. 선한 혁신이라도 인류에 미칠 악영향을 고려해 적절한 규제를 마련해야 한다. 규제가 항상 혁신을 가로막는 건 아니다. 이를테면 허위 정보나 이미지를 탐지하는 데 도움이 될 수 있는 안전장치가 있는 방식으로 AI를 개발하도록 인센티브를 제공함으로써 개인정보보호를 강화하는 방안이 있다.

실제 EU AI규제안은 소규모 스타트업 기업에 대한 배려도 담겨 있다. 빅테크와 달리 스타트업은 법을 준수하는 데 필요한 자금이 넉넉지 않다. 규제샌드박스를 도입해 스타트업이 통제된 환경에서 제품가 서비스가 규정을 준수하는지 실험하고 테스트하는 환경을 제공하는 방식이 있다. 피드백을 검토해 시장에 상품을 출시하면 비용을 줄일 수 있다.

△EU가 AI 규제뿐만 아니라 개인정보보호, 반독점 등에서 강한 규제를 해온 것은 맞다. 일부는 이 때문에 EU의 혁신이 늦어진다고 하지만 한편으로는 폐해가 나올 가능성도 적다. 두 개의 정책목표 가운데 하나를 달성하려고 하면 다른 목표 달성이 늦어지거나 희생되는 ‘트레이드오프’ 현상이다. EU는 중국보다 대량감시에 더 신경을 쓰기 때문에 프라이버시를 덜 침해하는 감시 기술을 개발할 수 있다.

△미국은 과거와 마찬가지로 매우 시장 중심적 모델을 구현하고 있다. 이른바 자율규제 기반이다. 행정명령이고 법이 아니기 때문에 훨씬 약한 규제다. 차기 대통령이 언제든 취소할 수 있다. 대부분 의무규정은 기업의 자발성에 기초하고 있다. 정부가 직접 기업을 통제하기보다는 기업의 자체 가이드라인을 인정하는 방식이다. 미국 정부가 AI 규제를 시작할 수 있는 역량을 구축하기 위한 차원으로 볼 수 있다. 하지만 규제를 강화했다는 측면에서 EU의 모델 일부분을 따라가기 시작했다고 본다.

△부분적으로 사실이라고 본다. AI 패권을 위한 대규모 전투가 벌어지고 있는데, 이데올로기적 색채를 띠고 있다. 기본적으로 디지털 권위주의 대 자유민주주의의 수평적 싸움(horizontal battle)이다. AI가 지정학적 영향력을 행사하는 데 매우 중요한 도구가 될 수 있다는 점에서 군사적 싸움이기도 하다. 미국은 중국의 AI 침투를 매우 꺼리고 있다. 이번 행정명령은 AI 개발을 제약하는 것처럼 보이지만, 미국이 AI 기술 경쟁에서 주도권을 잡길 원하기에 좀 더 온건적으로 나왔다고 생각한다. 동시에 미국은 AI 칩을 비롯한 특정 전략기술에 중국이 접근하는 것을 막는 수출통제제한 조치도 펼치고 있다.

△그렇다. 중국에 AI는 일종의 양날의 검이다. AI를 통한 감시능력을 강화해 사회주의 가치를 유지하는 데 도움이 될 수 있다. 중국은 안면인식 분야의 선두주자이며 중국의 사회적 안정을 유지하는 데 이를 활용한다. 한편으로는 생성형 AI가 검열 체제를 약화시킬 수 있기 때문에 이런 목표를 달성하지 못할 수도 있다.

△신자유주의 자유무역질서에서 벗어나 보호주의 산업정책이나 규제가 펼쳐지기 때문에 글로벌기업은 AI 개발에 매우 도전적인 상황에 부닥쳤다. 수많은 무역전쟁이 펼쳐지고 있고 기업들도 상당한 경제적 비용을 내고 있다. 그렇다고 각국의 규제에 완전히 탈동조화(decoupling) 현상이 나타날 것이라고 생각지는 않는다.

△현재로서는 신뢰기반이 낮고 국제협력이 잘 이뤄지지 않기 때문에 낙관하고 있지 않다. 중국과 같은 기술 독재 국가들을 포함해 합의할 수 있는 매우 낮은 수준의 규범을 만들거나, 아니면 중국을 제외하고 규제하든가 택해야 한다. 하지만 중국은 AI 대국이라 무시하지 못한다. 미국이나 중국이 모두 동의하고 있는 점은 테러리스트들이 AI에 접근해 글로벌 안정을 저해할 수 있다는 것이다. 이 부분에 대해서는 양국이 어느 정도 협력할 수 있다고 본다. 하지만 그 외에는 한계가 있을 수 있다.

△소수의 대기업이 디지털 경제 대부분을 장악하는 독과점 문제가 더욱 심화할까 우려된다. AI핵심은 데이터인데, 결국 빅테크의 지배력은 더욱 강화할 것이다. 글로벌 인재도 대부분 빨아들이고 있다. 한국 공정거래위원회가 구글 등 빅테크에 반독점 소송을 제기하는 것처럼 경쟁 당국의 역할이 더욱 중요해졌다고 본다. 각국의 규제망이 촘촘해질수록 이들 기업의 시장을 지배하고 남용할 행위는 줄어들 것으로 본다.

△미국과 중국이 AI개발의 선두주자인 만큼 앞으로 기술적 측면에서 계속 우위를 점할 것이다. 하지만 AI를 관리하는 데 있어서 EU도 리더가 될 수 있다. 전 세계적으로 유럽의 거버넌스 모델이 옳다는 인식이 점점 더 커지고 있다. 다만 EU는 법을 통과시키는 데 능하지만, 법을 집행하는 데는 취약한 편이다.

디지털 세계가 미국, 유럽연합, 중국 등 세 개의 제국으로 분열되고 있다. AI에 대한 규제가 불가피한 상황에서 자유민주주의에 부합하는 방식으로 갈 것인가, 아니면 디지털 권위주의에 부합하는 중국 방식을 따를 것인가 문제다. 중국의 디지털 권위주의는 (사회를 통제한다는 측면에서) 많은 국가에 매력적일 수 있다. 미국과 EU가 중국과의 수평적 경쟁에서 패배하고 점점 더 많은 국가가 독재정권을 강화하는 방식으로 AI를 사용할 경우 자유민주주의가 소멸할 수 있다. 자유민주주의적 방법으로 AI를 통제할 수 있다는 점을 보여주는 것이, 우리가 해결해야 할 가장 큰 과제다.

아누 브래드포드 교수의 주요 저서. 브뤼셀 효과: 유럽연합은 어떻게 세계를 지배하는가(The Brussels Effect: How the European Union Rules the World, 2020), 디지털 제국(Digital empires, 2023)

△핀란드 헬싱키대 법학 석사 △하버드 로스쿨 법학박사(SJD) △유럽의회 전문가 보좌관 △세계경제포럼 ‘2010 젊은 글로벌 리더’ △컬럼비아대 유럽 법률 연구 센터의 책임자