교육부, ‘교육분야 AI 윤리원칙’ 최초 마련...“윤리논란 선제대응”

[이데일리 김형환 기자] 교육부가 오는 11일 교육분야 인공지능(AI)이 윤리적으로 개발되고 안전하게 활용될 수 있도록하는 윤리원칙을 발표할 예정이다.

서울 강남구 세텍에서 열린 ‘2022 상반기 글로벌 일자리 대전’ 관계자들이 지난 4월 21일 인공지능(AI)을 이용한 모의면접 서비스 시연을 하고 있다. (사진=뉴스1)

교육부는 ‘사람의 성장을 지원하는 AI’라는 대원칙을 바탕으로 ‘교육분야 인공지능 윤리원칙’을 만들었다. 이번 윤리원칙은 교육분야에서 AI 개발·활용 지침을 최초로 제시했다는 의미가 있다.

AI 분야가 빠르게 발전하다 보니 AI 윤리와 관련한 각종 논란이 쏟아지고 있었다. 지난해 1월 발생한 AI 챗봇 ‘이루다’ 논란이 대표적이다. 스타트업 스캐터랩이 개발한 ‘이루다’는 데이터 구축·학습 과정에서 성소수자·장애인 등에 대한 편견을 학습하고 혐오 발언과 성적인 대화 등을 쏟아내 출시 1달만에 서비스를 중단했다.

교육부는 이처럼 예상치 못한 윤리적 이슈 발생에 선제적으로 대응하기 위해 이번 윤리원칙을 만들었다. 교육부는 지난해 9월부터 전문가 테스크포스(TF)를 운영했으며 올해 6월까지 간담회 등 의견 수렴 절차를 진행해 윤리지침을 만들었다.

교육부는 이번 윤리원칙을 교육기관과 교육활동을 지원하는 행정기관에서 활용하는 AI에 적용할 예정이며 자발적 실천과 준수를 독려하는 도덕적 규범이자 자율규제로 이번 규제의 성격을 규정했다.

이번 윤리원칙은 헌법 제31조와 교육기본법 등에서 법적 근거를 마련했으며 유네스코 AI 윤리 권고 등 국제적 AI 윤리 기준과 2020년 발표한 범정부 AI 윤리기준 등을 중심에 두고 만들어졌다.

교육부는 윤리원칙을 AI 윤리교육과 교원 역량 강화 연수 자료 등에 활용할 예정이며 에듀테크(교육기술) 기업과의 협업 지침으로도 활용해 윤리원칙의 구체적 실천을 이끌어 갈 예정이다. 오석환 교육부 기획조정실장은 “AI가 미래세대의 인지·정서에 미치는 영향이 크다”며 “교육분야 AI 개발과 안전한 활용이 균형을 이루도록 교육계·산업계와 지속해서 소통하고 협력하겠다”고 말했다.