윤현봉 대구보호관찰심사위원회 상임위원은 14일 서울 여의도 국회의원회관에서 열린 한국법무보호복지학회 추계학술대회 제1주제 발표에서 “AI 기반 재범위험성 평가는 빅데이터 분석과 머신러닝 알고리즘을 활용해 기존 평가 도구의 한계를 극복하고, 더욱 정교하고 객관적인 평가 결과를 제공할 수 있다”고 밝혔다.
|
윤 위원은 ‘AI 기반 재범 위험성 평가 및 맞춤형 사회재진입 지원 방안’을 주제로 이날 발표에서 “전통적 재범위험성 평가는 전문가의 임상적 판단이나 통계적 위험요인 분석에 의존해 방대한 데이터 수집·분석 과정에서 막대한 시간과 비용이 소요되고, 전문가의 주관과 편향이 개입할 여지가 있었다”고 지적했다.
그는 “AI 기반 4세대 평가도구는 개인 신상정보, 범죄 경력, 심리 검사 결과뿐 아니라 실시간으로 변화하는 직업활동, 심리정서적 변화, 활동반경 등 동적 변수까지 종합 분석해 위험도를 산출한다”며 “고위험·중위험·저위험 등 위험도와 함께 범죄인이 현재 처한 환경에서 어떤 문제를 가지고 있는지, 그 문제 해결을 위한 현실적 방안까지 제시할 수 있다”고 설명했다.
윤 위원은 AI 도입의 시급성도 강조했다. 그는 “보호관찰 공무원 1인당 연간 평균 담당 건수는 95건으로 경제협력개발기구(OECD) 주요국가 평균 27.3건의 3.4배에 달한다”며 “한국법무보호복지공단 직원도 1인당 연간 410건의 서비스를 제공해 서비스 부실화가 우려되는 상황”이라고 밝혔다.
그러면서 “AI가 고위험군을 객관적으로 선별하면 보호관찰관은 해당 대상자에게 행정력을 집중해 관리 효율을 극대화할 수 있다”며 “선택과 집중을 통한 효율적 자원배분으로 인력과 비용을 절감할 수 있다”고 말했다.
윤 위원은 미국 COMPAS(재범위험성 예측), 영국 HART(구금 결정 지원), 미국 연방 IDRACS(동적 위험 평가), 한국 경찰청 PRE-CAS(범죄위험도 예측) 등 해외 사례를 집중 소개했다.
특히 미국 교정시설의 ‘에코(Echo)’ 시스템은 수용자에게 24시간 인지행동치료를 제공하는 ‘AI 멘토’ 역할을 해 폭력·자해 등 문제 행동 발생률을 28% 감소시킨 것으로 나타났다. 출소자와 보호관찰관, 지역사회 복지기관을 하나의 플랫폼으로 연결한 ‘Pokket’ 시스템은 법규 위반으로 인한 재수감 확률을 75%나 줄였다고 윤 위원은 전했다.
싱가포르의 PASS(자동화 약물 검사) 시스템은 딥러닝과 로보틱스를 활용해 소변 검사를 완전 자동화하고 부정행위를 원천 차단하는 혁신 사례로 소개됐다.
윤 위원은 “미래 AI 시스템은 단순히 ‘이 사람이 70% 위험하다’고 예측하는 데 그치지 않고 ‘약물 문제와 실업 상태 때문에 위험하므로 즉각적인 치료 프로그램 연계와 직업훈련 연결이 필요하다’는 식으로 구체적 해결책을 제시하는 처방적 시스템으로 진화할 것”이라고 전망했다.
그는 이어 “출소자 사회 복귀 지원을 위한 데이터 연계와 통합 관리, 한국형 재범위험 평가도구 개발, AI를 결정자가 아닌 전문 조력자로 규정하는 인간 중심 원칙 확립이 필요하다”고 제언했다.
“알고리즘 편향성과 공정성 문제 선결과제”
토론자로 나선 남궁록 경기대 교수는 “AI 도입 필요성에는 공감하지만 알고리즘 편향성과 공정성 문제가 선결과제”라고 지적했다.
남궁 교수는 “미국 COMPAS가 흑인 피고인을 백인에 비해 고위험으로 잘못 분류할 확률이 2배 높았던 것처럼, 한국 사회의 사회경제적·지역적 편향성을 어떻게 사전에 식별하고 제거할 것인지 구체적 방안이 필요하다”고 말했다.
그는 또 “여러 부처의 민감한 개인정보를 연계·통합하는 과정에서 유출 위험을 원천 차단할 기술적 안전장치가 마련돼야 하며, 재범 방지라는 공익적 목적이 개인정보 자기결정권보다 우선시될 수 있는 법적·윤리적 근거도 필요하다”고 강조했다.
남궁 교수는 “AI 예측이 잘못됐을 경우 책임 소재가 불분명해질 수 있다”며 “AI 개발사, 시스템 운영기관, 최종 판단을 내린 개인 중 누구에게 책임이 귀속돼야 할지에 대한 사회적 논의가 필요하다”고 지적했다.
이어 “기술의 완성도는 법·제도보다 빠르게 발전하지만, 기술의 성숙도 없이는 법과 제도가 있어도 이행이 힘들다”며 “법무보호 분야에서도 AI를 활용한 정책과 제도 도입을 위한 연구가 진행되길 법무부와 공단에 요청한다”고 덧붙였다.
딥페이크 성범죄 재범방지…“청소년 교육·전문수사 절실”
한편, 급증하는 디지털 범죄에 대한 재범방지책과 관련한 토론이 이어진 가운데 구본준 법무법인 모두 대표변호사는 청소년 딥페이크 범죄의 심각성을 강조했다. 구 변호사는 “딥페이크 범죄는 SNS나 스마트폰 애플리케이션(앱) 사용에 익숙한 청소년들이 저지르는 경우가 많고, 특히 어린 나이의 청소년들은 또래들의 장난 정도로 여기거나 죄의식 없이 합성을 하기도 한다”고 지적했다.
그는 처벌 수위에 대한 고민도 제기했다. “청소년 딥페이크 범죄는 초범이고 나이가 어릴 경우 소년보호사건으로 처리될 가능성이 높은데, 가벼운 처벌로 문제의 심각성을 인지하지 못하고 또다시 범죄를 저지를 우려가 있다”며 “딥페이크를 이용한 청소년 범죄를 다른 청소년 범죄보다 강력하게 처벌할 필요성도 있다”고 말했다.
수사의 한계도 지적됐다. 구 변호사는 “국내 포털이나 SNS는 수사 시 접근 가능성이 높지만, 텔레그램 등 외국 SNS는 해당 정보에 접근하기 어려운 경우가 많다”며 “국제적인 형사공조 및 국제 사회 연대가 필요하다”고 강조했다.
그는 또 “합성 여부 판단에 대한 전문성, 각종 SNS 추적 등에 전문화된 조사 인력이 필요하다”며 “딥페이크 범죄 수사를 전담하는 특별사법경찰을 신설하거나 ‘디지털 성범죄 피해자지원센터’에 필요한 수사권을 부여해 해당 분야 전문성을 강화해야 한다”고 말했다.
구 변호사는 특히 사전 예방교육의 중요성을 강조했다. 그는 “청소년들의 경우 SNS나 AI 이용 능력은 높으나 딥페이크에 대한 문제의 심각성을 인지하지 못하는 경우가 많다”며 “전문 강사를 양성하고, 이들을 통한 학교 교육 등 직접 현장에서 주기적인 교육을 할 수 있도록 해야 한다. 사전적 예방 교육을 제도화하거나 법제화할 필요가 있다”고 덧붙였다.
