세계 최초 EU-AI 규제법안 살펴보니[AI헬스케어]

by김승권 기자
2024.08.24 17:46:08

[이데일리 김승권 기자] 유럽(EU)에서의 AI 법안이 제정되며 국내 AI의료 관련 법률 상황에 관심이 쏠린다.

유럽에서는 AI를 사용하는 다수가 책임을 나눠지게 했고 위험군에 따라 규제 강도를 분류했다. 법 위반에 대한 벌금은 최대 524억원에 달했다.

한국보건산업진흥원이 20일 배포한 ‘글로벌보건산업동향-REGULATION (EU) 2024’에 따르면 해당 법안은 유럽에서 AI 시스템이 사회적, 경제적, 법적 문제를 일으킬 수 있는 가능성이 높아짐에 따라 이에 대비하기 위해 제정됐다. AI 기술을 규제하는 법이 제정된 일은 세계에서 처음이다.

유럽 AI법안 적용 타임라인 (데이터= DLA Paper(재가공), 한국보건산업진흥원)

이에 따르면 유럽의 새 AI 법은 AI 시스템을 쓰는 모든 사람에게 책임을 부과할 것을 명시했다. 의료진과 임상의가 의료서비스를 제공하는 가운데 AI 시스템을 활용한다면 그들도 AI시스템의 배포자로 인정한다는 내용이다.

배포자에게는 △AI 시스템이 지침에 따라 제공되도록 적절한 기술적·조직적 조치 △유능하고 훈련된 사람들이 하는 감독과 지원 △모니터링 및 감시 △시스템 로그가 제어 하에 있는 경우 유지 관리 △데이터 보호 영향평가를 실시해야한다.



법안에 대한 의무를 제때 이행하지 않을 경우, 전년도 매출의 최대 7% 또는 최대 3500만 유로(한화 523억 9430만원), 혹은 전년도 매출의 최대 1% 또는 최대 750만 유로(한화 112억 2795만원)의 벌금이 부과될 수 있다.

또한 제정된 AI 법은 AI 기술을 그 위험도에 따라 허용할 수 없는 위험, 고위험, 제한적 위험, 최소 위험 네 가지로 분류했다.

AI 의료기기는 고위험군에 포함됐다. 따라서 AI 시스템을 제공하는 의료기기 업체는 엄격한 규제를 받게 된다. 이런 규제에는 위험 평가와 관리체계, 품질 높은 데이터 사용, 투명성, 설명 가능성, 사람의 직접 감독 뿐만 아니라 기술명세서 작성, 시스템 운영 기록 보관, 이용자에 대한 정보 제공 같은 의무가 포함된다.

새 AI 법은 유럽연합에 진출하려는 비유럽연합 기업에도 적용될 예정이다.