AI기본법, 과방위 소위 문턱 넘어…'고영향AI' 과태료 최대 3000만원

by김현아 기자
2024.11.21 17:33:53

[이데일리 김현아 IT전문기자] 국회 과학기술정보방송통신위원회 정보통신방송법안심사소위원회가 21일 오전 회의를 열어 ‘AI 기본법’으로 상정된 20여 개 법안을 병합 심리한 후 통과시켰다. 이에 따라 21대 국회에서 처리되지 못했던 AI 기본법이 연내 국회를 통과할 가능성이 커졌다.

트럼프 행정부 출범 이후 미국의 AI 규제 완화로 글로벌 빅테크들의 기술 독점이 심화될 전망인 가운데, 우리나라 역시 AI 산업 육성 및 활용 촉진을 위한 중요한 기반을 마련한 것으로 평가된다.

이날 법안소위에서 통과시킨 AI기본법은 유럽연합(EU)에서 도입한 ‘금지되는 AI’ 범위에 대한 규정을 제외하고 ‘고영향 AI’에 대한 사업자 책임을 신설하는 영향 기반 규제 도입이 골자다. 고영향 AI는 범죄 예방, 수사, 기소, 형집행, 첩보 및 무기 운용 등 생명과 안전에 위협을 줄 수 있는 분야에서 사용되는 AI를 포함하는, 일반적인 AI보다 위험도가 높은 AI를 말한다. 어린이 제품 안전, 출입국 관리, 채용 및 인사 결정, 사회보험, 공공부조, 의료기기, 교통안전, 신용평가, 보험, 법원 및 행정 심판 등에 사용되는 AI도 고영향 AI로 분류된다.

기업은 자사 AI가 고영향 AI에 해당하는지 과학기술정보통신부 장관에게 확인을 요청할 수 있으며, 해당 AI는 인공지능안전연구소에서 안전성 및 신뢰성 검증을 거칠 수 있다. 이를 통과한 AI는 국가 조달 시 우선 구매 혜택을 부여받는다. 또한 고영향 AI를 서비스하는 기업은 이용자에게 이를 고지할 의무가 있으며, 이를 위반할 경우 최대 3000만 원의 과태료가 부과된다. 이 법안은 일부 법안에서 주장했던 금지되는 AI에 대한 규정이나 고영향 AI의 검·인정 의무 위반 시 형사처벌, 5000만 원 이하 과태료 등에 비해서는 완화된 것이다.



법안에는 AI 컴퓨팅 인프라 투자를 촉진할 유인책도 포함됐다. 기업들의 AI 데이터센터(AI DC) 투자를 독려하기 위해 지역 균형 발전 지원, 행정적 및 재정적 지원 등 다양한 방안이 제시됐다. 또한 AI안전연구소와 AI협회 관련 조항도 포함됐으며, 국가AI위원회 구성에 관한 논의는 진행 중이다. 소위는 국회 추천 인사 포함 여부에 대한 논의 끝에 이후 과방위 전체 회의에서 법안 의결시 최종 확정하기로 했다.

국회 관계자는 “EU법은 금지되는 AI의 범위를 규정하고 있지만, 급격히 발전하는 기술을 반영해 사전 금지 조항은 포함하지 않았다”면서 “고영향 AI에 대해서는 사업자 책임을 명시하되, 처벌보다는 정부의 가이드라인을 따르도록 했다”고 설명했다. IT 업계 관계자는 “법안이 진흥과 책무의 균형을 잘 맞춰 대체로 긍정적으로 평가된다”고 말했다.

한편 국회 과학기술정보방송통신위원회는 지난 20일 AI 인프라 예산을 1조원 증액한 내년도 예산안을 의결했다. 정동영 예산소위 위원장은 “국가 AI위원회가 출범했지만 AI 관련 예산은 통상적인 예산 범위에 머물렀다”며 “그래픽처리장치(GPU) 구입 예산 3217억원과 제조업의 인공지능 전환을 위한 4500억 원 등 총 1조원을 증액했다”고 밝혔다.