이주희 의원, ‘아동·청소년 온라인 안전법’ 발의…AI 유해 콘텐츠 차단

[이데일리 이소현 기자] 이주희 더불어민주당 의원은 27일 인공지능(AI)을 통해 생성되는 아동·청소년 대상 유해·불법 콘텐츠를 차단하기 위한 정보통신망법 개정안을 대표발의했다고 밝혔다.

이주희 더불어민주당 의원(사진=이데일리DB)

이번 개정안은 AI 서비스 확산으로 유해정보가 단순 유통을 넘어 생성·편집·합성 형태로 제공되는 현실에 대응하기 위해 마련됐다. 특히 대화형 AI 등이 청소년의 정서적 의존과 과몰입을 유발할 수 있다는 점도 입법 배경으로 반영됐다.

개정안은 △AI 서비스 제공자 개념 신설 △해외 사업자 국내대리인 지정 의무 △청소년 유해정보 생성·제공 금지 △연령·본인 확인 및 보호조치 의무 △불법정보 생성 방지를 위한 모니터링·로그기록·반복 요청 경고 등 관리 의무를 주요 내용으로 담았다.

또 방송통신위원회에 점검 및 시정명령 권한을 부여하고 위반 시 과징금 부과와 서비스 제한 등 제재 근거도 포함했다.

현행 제도가 사후적 행정제재 중심으로 운영되면서 글로벌 플랫폼과 AI 서비스에서 발생하는 유해·불법 콘텐츠 문제에 신속하게 대응하기 어렵다는 지적을 반영한 것이다.

앞서 이 의원은 지난달 국회 과학기술정보방송통신위원회 회의에서도 유튜브와 X 등 플랫폼에서 청소년이 성착취물, 딥페이크 범죄물 등에 노출되는 문제를 지적하며 사전적 규율 필요성을 강조한 바 있다.

이번 입법은 최근 미국에서 메타와 구글을 상대로 제기된 청소년 소셜미디어 중독 관련 소송 흐름과도 맞닿아 있다. 미국 법원 배심원단은 청소년 SNS 중독 소송에서 메타와 구글에 총 600만 달러(약 90억원)를 원고에게 배상하라는 평결을 내렸다.

이 의원은 “아동·청소년 온라인 안전은 더 이상 기업 자율에만 맡길 수 없다”며 “이번 개정안은 ‘아동·청소년 온라인 안전법’의 1단계로, AI 사업자에 우선 책임을 묻기 위한 것”이라고 말했다.

이어 “향후 소셜미디어와 동영상 플랫폼, 커뮤니티 등 플랫폼 전반을 포괄하는 2단계 입법도 추진할 계획”이라며 “현장에서 실질적으로 작동하는 제도를 마련하겠다”고 밝혔다.

그는 “아동·청소년의 안전보다 앞설 수 있는 산업 논리는 없다”며 “국회와 정부가 보다 분명한 기준을 세워야 할 시점”이라고 강조했다.