X

[법조프리즘]비관과 낙관 사이…AI시대, 법의 역할

송길호 기자I 2024.03.18 06:20:00

박주희 로펌 제이 대표변호사

[박주희 로펌 제이 대표변호사] 최근 유럽연합(EU)이 세계 최초로 인공지능(AI) 기술 규제 법안인 ‘AI법’을 최종 승인했다. EU의 AI법 주된 내용은 AI 기술을 사용할 수 없는 기술, 높은 위험, 중간 위험, 낮은 위험으로 네 단계로 나누어 차등 규제하는 것이다. 실시간 원격 생체인식 식별 시스템 기술은 금지되며, 의료, 선거, 자율주행 등에 ‘고위험’ AI 기술을 사용하고자 할 때에는 반드시 사람이 감독하고 위험관리시스템을 구축해야 한다. 또한 딥페이크 영상이나 이미지에는 AI로 만든 조작 콘텐츠라는 점을 표기해야 한다.

공교롭게도 같은 날, 유튜브에서는 오픈AI와 로봇 스타트업이 협업해 만든 AI 휴머노이드 로봇 ‘피규어 01’이 공개됐다. 로봇에게 한 남성이 먹을 것을 달라고 하자 앞에 놓인 여러 물건들 중에 정확히 사과를 골라 건네주고, 왜 사과를 준 것인지 물었더니 앞에 놓인 물건 중에 유일하게 먹을 수 있는 것이 사과이기 때문이라는 대답을 했다. AI 로봇 기술이 얼마나 발전해 있는지 서늘한 충격을 주는 영상이었다.

오픈AI의 챗GPT의 등장은 본격적인 AI가 시대가 시작했음을 알렸다. AI로 인해 인류는 적은 노동력으로 더 많은 생산과 서비스가 가능해지며, 다양한 일을 효율적으로 할 수 있게 되고, 의학 등 유익한 과학기술이 급속도로 발전할 것이라는 장밋빛 미래를 꿈꾸며 전세계적으로 AI에 대한 개발과 투자가 고조되고 있다. 하지만 한편으론 딥페이크를 통해 허위 정보를 생성하거나 여론을 조작하고, 인간의 일자리를 빼앗는 등 인류에게 위협이 될 존재이기에 무분별한 개발보다는 AI에 대한 규제가 필요하다는 입장도 존재한다. 이에 대해 AI에 대한 낙관주의자들은 AI로 말미암아 새로운 직업과 일자리가 생길 것이며, 기업이 기술력을 갖춰 시대 격변에 대처할 수 있도록 오히려 규제를 완화해야 된다고 목소리를 높인다. 규제론을 마치 구시대적 사고를 하는 사람들의 ‘러다이트 운동’ 정도로 치부하는 것이다.

그러나 AI가 새로운 먹거리라느니 기업이 글로벌 경쟁에서 살아남기 위해 규제를 완화해야 된다는 주장은 세상을 지극히 단편적인 시각으로 보는 것이 아닌가하는 생각이 든다. 시대의 흐름은 거스를 수 없는 노릇이고, AI 기술이 인류에게 가져다줄 긍정적인 효과가 있는 것도 절대 부정할 수 없지만 자칫 오남용, 안전 등과 관련한 위험성이 우려되는 상황에서 오직 시장논리에 따라 상용화하는 것이 옳은지는 생각해 볼 필요가 있다. ‘사피엔스’의 저자 유발하라리도 제약 회사가 엄격한 안전성 검사를 거쳐야 신약을 판매할 수 있는 것에 빗대 AI가 아무리 혁신을 이끌 기술이라도 안전성이 확보되지 않은 상황에서 섣불리 활용하도록 하는 것은 위험을 초래할 것이라고 경고한다.사실 많은 이들이 우려하는 것은 AI 기술 자체 보다는 이를 이용하는 인간의 욕망이다. 인간의 호기심과 욕망이 AI 기술을 어디서, 어떻게 활용할지 모르니 두려운 것이다. 그렇다면 기술발전을 규제하는 것보다 인간의 욕망을 통제하는 것이 더 중요한 일이겠지만 과연 폭주기관차 같은 인간의 욕망을 억누르는 것이 가능하냐는 회의적인 의문이 남는다.

그러나 생각해보면 우리가 만든 법과 제도는 사실상 인간의 이기심, 욕망을 통제하거나 조절하기 위해 만들어진 수단이다. 법이 없다면 욕망으로 뒤얽힌 무질서와 혼돈의 세상이 될테니 말이다. 그래서 AI의 위험성을 우려하는 사람들도 인간 욕망의 조절을 위해 비록 경직되고 인위적이라 하더라도 법에 의한 규제가 불가피하다는 것이다.

흐르는 물을 억지로 막을 수는 없지만 방향과 속도를 조절할 수는 있다. AI 발전에 대한 비관과 낙관 사이, 법이 취해야 할 태도는 시장에 맡겨두고 물러서는 것도, 흐름을 무리하게 막아서는 것도 아니다. 브레이크 없이 달리는 인간 욕망의 속도를 늦추고, 잘못된 방향으로 나가지 않게 조절해주는 것, 그것이 AI시대의 법의 역할이 아닐까 싶다.

주요 뉴스

ⓒ종합 경제정보 미디어 이데일리 - 상업적 무단전재 & 재배포 금지