허위 판례 기승인데…“국내 법률AI만 규제하면 챗GPT로 간다”

[이데일리 김현아 기자] 생성형 인공지능(AI)이 만든 허위 판례가 실제 법원에 제출되는 사례가 잇따르면서 법률AI 규제를 둘러싼 논란도 커지고 있다.

법무부는 법률AI 활용 기준을 담은 ‘AI 리걸테크 가이드라인’을 마련하고 있다. 구체적인 사건에 법률을 적용해 결론이나 대응 방향을 제시하는 ‘판단형 AI’에는 변호사의 관여와 관리·감독을 요구하는 방안이 논의되고 있다.

문제는 국내 법률AI에만 이런 의무를 강하게 적용할 경우다. 국내 소비자들이 챗GPT·클로드 등 해외 범용 AI를 법률정보 검색과 상담에도 활용하고 있어서다. 국내 서비스 이용이 제한되면 해외 AI로 수요가 이동할 수 있다는 우려가 나온다.

법률정보 검색은 허용…‘판단형 AI’는 별도 관리

가이드라인은 법률AI를 ‘정보 제공’과 ‘법률 판단’으로 나눠 이용 범위를 정하는 방향이다. 법령·판례 검색과 법률정보 제공, 문서 작성 등은 허용하고, 구체적인 사실관계에 법률을 적용해 판단이나 대응 방향을 제시하는 서비스는 별도로 관리하는 방식이다.

특히 비변호사가 개별 사실관계에 법률을 적용해 판단하는 AI 서비스를 유상으로 제공하는 경우 제한을 두는 방안이 거론된다.

다만 경계는 모호하다. 단순히 판례를 찾아주는 것을 넘어 특정 사건에 법률을 적용하고 대응 방법까지 제시하는 서비스가 늘고 있기 때문이다.

국민 10명 중 6명 “생성AI로 법률정보 찾아”

전자신문이 전국 20~50대 성인 1008명을 대상으로 한 조사에서 최근 1년간 법률정보가 필요할 때 생성형 AI를 주요 정보 수단으로 활용했다는 응답은 61.8%였다. 생성형 AI를 활용한 응답자 가운데 60.8%는 법률상담·질의응답에 활용했다고 답했다.

국내 법률AI 이용을 제한하더라도 법률 관련 AI 수요 자체가 줄어드는 것은 아니다. 업계에서는 검증 장치가 충분하지 않은 해외 범용 AI로 이용자가 이동할 가능성을 우려하고 있다.

법원까지 간 ‘AI 가짜 판례’…27년 차 변호사 사건도

지난 6월 특허법원은 한 특허 사건에서 원고가 제출한 준비서면에 인용된 판례 8건이 존재하지 않는 판결이라고 지적했다. 원고 측이 AI를 통해 찾은 일부 판결을 검증 없이 제출한 사실도 확인됐다. 해당 사건은 27년 차 변호사가 대리했다.

서울동부지법에서도 지난 6월 AI를 이용해 작성된 것으로 보이는 허위 판례가 법원에 제출됐다. 재판부는 원고가 허위 판례를 인용해 법원을 기망하려 했다고 판단했다.

수원지법에서도 피고가 제출한 판결들이 모두 AI 이용에 따른 허위 판결로 확인된 사례가 있었다. 사법연수원 법관 연수에서는 소송 당사자가 제출한 서면에 인용된 판례 40건 가운데 39건이 허위였던 사례도 공유됐다.

사법부 내부에서도 생성AI의 오류 가능성에 주의를 당부하고 있다. 대법원에 따르면 법관 등이 사용하는 ‘재판지원 AI’에는 지난달 말까지 27만1839건의 질의가 입력됐다. 법원은 AI가 생성한 법령 조항과 사건번호 등이 실제 존재하는지 확인하도록 안내하고 있다.

“AI 사용보다 결과 검증이 중요”

전문가는 AI 사용 자체를 제한하기보다 AI가 내놓은 법률정보를 검증할 수 있는 장치를 마련해야 한다고 지적했다.

구태언 법무법인 린 변호사는 “문제는 AI 사용 자체보다 결과를 어떻게 검증하느냐에 있다”며 “판례와 법령 등 1차 출처를 확인할 수 있는 검증 장치가 필요하다”고 말했다.

이어 “국내 리걸테크에만 변호사 관여 의무 등을 강하게 부과하면 챗GPT·제미나이 같은 해외 범용 AI와 규제 격차가 생길 수 있다”며 “국내 사업자만 규제하는 방식으로는 이용자 보호와 국내 산업 육성을 함께 달성하기 어렵다”고 지적했다.

홍대식 법무부 AI 리걸테크 특별분과위원회 위원장(서강대 교수)은 현행 변호사법이 법률AI 활용 범위를 넓히는 데 제약이 될 수 있다고 설명했다.

홍 위원장은 “현재 적용할 수 있는 법은 변호사법이고, 현행법 해석상 넘기 어려운 벽이 있다”며 “법률 전문가의 조력이나 관여를 전제로 허용 범위를 넓히려면 변호사법을 개정하거나 리걸테크 특별법을 제정하는 등 입법으로 해결할 필요가 있다”고 말했다.

법무부는 규제개혁위원회 중간답변을 계기로 기업 법무 분야 AI 리걸테크 규제를 검토하는 태스크포스를 구성한 것으로 알려졌다.

법무부 가이드라인의 향후 논의에서는 어디까지를 ‘법률 판단’으로 볼 것인지와 함께 AI가 제공한 법률정보의 정확성을 어떻게 검증하고, 오류 발생 시 책임을 어떻게 나눌지가 주요 쟁점이 될 전망이다.