"이커머스 추천도 개인정보보호법 위반?"…자동화 결정 대응법 '논란'

[이데일리 김현아 기자] “3월15일부터 시행되는 개인정보보호법 시행령 2차 개정안에는 ‘자동화 결정 대응법’이 포함돼있습니다. 예를 들어 AI를 활용한 채용 면접에서 지원자가 ‘나는 AI면접을 받기 싫다’라고 표명하면 사람과 면접할 수 있게 하고, 떨어졌을 경우 이유를 알려달라고 하면 설명을 해줘야 하는 권리입니다. 하지만 이 부분이 검색이나 추천까지 확대 해석된다면 상당한 혼란이 예상됩니다.”

이성엽 고려대 기술법정책센터장(한국데이터법정책학회장·교수)이 23일 서울 플라자호텔에서 열린 이데일리 서소문라운지에서 개정 개인정보보호법 시행을 앞두고 명확한 법령 해석이 필요하다는 입장을 밝혔다.

이성엽 고려대 기술법정책센터장(한국데이터법정책학회장)

이 교수는 우리나라에서 주목받는 AI 규제 및 정책 전문가로, 과학기술정보통신부와 김앤장 법률사무소를 거쳐 현재는 학계에서 활동 중이다. 그는 현재 과기정통부 AI법제사업단과 개인정보보호위원회 규제심사위원장으로도 활동하고 있다.

이 교수는 개인정보보호법에 포함된 ‘자동화된 결정’에 대한 정보주체의 권리가 유럽식 법제를 따른 결과라고 지적했다. 그는 “이는 유럽연합(EU)의 GDPR(유럽 일반 개인정보보호법)을 기반으로 한 결정인데 사실은 EU에서도 별로 적용하지 않는다”면서 이의제기권의 허용 범위가 중요하다고 했다. 완전히 자동화된 결정의 개념이 확실히 정립되지 않은 상황이어서 검색이나 추천 자동화까지도 영향을 줄 수 있다는 것이다.

◇쿠팡 커머스 추천도 문제될 가능성

이성엽 교수는 “현재 구글, 네이버, 쿠팡과 같은 기업들이 제공하는 검색이나 커머스 추천 서비스도 이러한 추천이 자동화된 결정으로 간주된다”며 “개인이 이의제기를 할 경우 개인정보보호법 위반 논란이 발생할 수 있다”고 언급했다. 그는 “법에는 이러한 서비스를 완전히 자동화된 결정으로 취급할지에 대한 규정이 없어 강력한 AI 규제가 발생할 가능성이 크다”고도 우려했다.

그러면서 그는 “자동화된 결정에 대한 설명 의무의 경우 기업이 알고리즘의 변수를 설명하더라도 개인이 ‘이해가 안 된다’고 할 경우 논란이 발생할 수 있다”고 덧붙였다.

이 교수는 AI 시대에서 개인정보보호위원회의 역할이 중요하다고 언급하면서, 이는 시행령 작업이나 유권 해석에 따라 기업들의 신규 AI 서비스 개발과 출시에 큰 영향을 미칠 수 있기 때문이라고 설명했다.

◇“문체부 AI저작권 가이드라인도 과도”

이 교수는 개인정보보호위원회의 규제를 명확히 해야 한다면서 문화체육관광부의 AI저작권 가이드라인도 과도하다고 지적했다. 문체부는 AI가 학습하는 모든 저작권이 있는 창작물에 대해 충분한 보상이 이뤄지도록 하겠다고 밝혔지만, 대가 협상은 당사자 간에 이뤄져야 한다는 원칙으로 볼 때 개입이 지나치다는 의견을 냈다.

이 교수의 생각이 공감을 받는 것은 2022년 11월 챗GPT 출시 이후 대한민국 플랫폼 산업이 지닌 위기가 더욱 가속화될 것으로 예상되기 때문이다. 그는 “네이버가 하이퍼클로바X를 개발할 때 언론사의 기사를 학습하려면 해당 언론사의 이용 허락을 받아 정당한 대가를 지불해야 한다”며 “문제는 어떻게 학습했는지 정확히 알 수 없는 상황으로, 기술적으로 사전에 처리하기 어려운 상황이라는 것”을 언급했다. 그는 “언론사들이 신탁단체를 만들어 기준을 수립하고 협상하는 것도 하나의 해결책일 것”이라고 덧붙였다.

이어 그는 “미국과 중국이 전세계 AI 경제를 주도하는 상황에서 대한민국 기업들은 클라우드, 검색, OTT 분야에서 빠르게 성장하는 글로벌 빅테크의 공격에 취약한 상태이며, 생성형 AI 시대에 더욱 격화될 수 있다”며 “제휴를 넘어 특정 AI 분야에서의 원팀 형성이 필요하다”고 강조했다.

[이데일리 김일환 기자]

◇자국 이익에 부합하는 AI정책 설계 필요

이 교수는 AI 규제와 관련해 정부의 성급한 개입을 반대하는 한편 AI 산업 진흥에 앞장서야 한다는 입장을 거듭 강조하고 있다. 이는 다른 전문가들은 물론 업계에서도 공감대를 형성하는 부분이다.

최수연 네이버 대표는 지난 19일 과학기술정보통신부가 주최한 ‘AI 최고위 전략대화’에서 “AI로 전선이 하나 더 생긴 느낌인데, 결국 AI에서도 특정한 문화나 특정한 사회적 맥락이 중요하지 않나 한다. (대한민국 기업이) 경쟁력을 갖추고 성장할 수 있도록 자국의 이익에 부합할 수 있는 정부의 실질적인 지원을 요청드리고 싶다”고 언급했다.

배경훈 LG AI 연구원 원장도 같은 자리에서 “우리가 제조, 가전, 모빌리티 분야에서 장점이 있기 때문에 온디바이스AI에서는 어떤 차별적인 것으로 발전시켜 나가야 한다”며 “GPT 스토어의 등장으로 인해 글로벌 빅테크 기반의 다양한 서비스가 출현하고 있어 국내 스타트업들이 경쟁에서 어떻게 차별화되고 보호받을 수 있는지에 대한 정책적 지원이 필요하다”고 강조했다.