.png)
과학기술정보통신부와 정보통신정책연구원(KISDI)은 28일 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 시행에 맞춰 ‘인공지능 윤리원칙’ 초안을 공개하고, 오는 29일부터 대국민 의견수렴에 들어간다고 밝혔다.
이번 원칙은 2020년 범정부 윤리기준을 계승하면서도 생성형 AI·에이전틱 AI 등 최신 기술 환경 변화를 반영해 재정립된 ‘최상위 준거틀’이다.
|
정부는 그간 부처별로 분산된 AI 가이드라인이 현장에서 혼선을 초래할 수 있다는 점을 고려해, 법·제도와 개별 지침을 연결하는 공통 기준을 마련했다.
이번 윤리원칙은 세부 규제가 아닌 모든 AI 관련 주체가 공유하는 상위 기준으로, 향후 분야별 세부 가이드라인의 기준점 역할을 하게 된다.
3대 가치 + 6대 원칙
윤리원칙은 AI 개발·활용 전 과정에서 지향해야 할 3대 가치와 이를 실행하기 위한 6대 원칙으로 구성됐다.
3대 가치는 ▲인간의 존엄성(인간은 AI의 수단이 될 수 없으며 자율성과 권리가 보장돼야 함)▲사회의 공공선(AI의 편익은 특정 집단이 아닌 사회 전체에 공정하게 분배돼야 함)▲기술의 신뢰성(안전성·설명가능성·위험관리 기반의 신뢰 확보)다.
6대 실행 원칙은 ①인간의 자율성(인간 판단 보완, 과의존 방지, 인간 감독 체계 확보)②프라이버시( 개인정보 보호, 감시·조작 방지, 정보통제권 보장)③공정성·포용성(차별 최소화, 알고리즘 편향 제거, 디지털 접근성 확대) ④지속가능성 (환경 영향 관리, 고용 구조 변화 대응, 세대 간 형평성)⑤ 안전성(오작동·보안 위협 대응, 회복력 있는 시스템 구축)⑥투명성(AI 사용 고지, 설명 가능성, 이의제기 절차 보장)이다.
7월 8일까지 의견수렴… “현장 적용 가능한 기준 만든다”
정부는 이번 초안을 기반으로 산업계·학계·시민사회 의견을 반영해 최종안을 확정할 계획이다.
의견수렴은 5월 29일부터 7월 8일까지 진행되며, 온라인 플랫폼을 통해 누구나 참여할 수 있다.
류제명 과기정통부 제2차관은 “AI 시대의 주도권은 기술력뿐 아니라 이를 얼마나 투명하고 안전하게 관리하느냐에 달려 있다”며 “윤리원칙이 글로벌 기준선으로 자리 잡을 수 있도록 사회적 합의를 거쳐 완성하겠다”고 말했다.
정부 초안 전문 (Full Text)
Ⅰ. 서문
인공지능 기술은 생성형·에이전틱·피지컬 인공지능의 부상과 함께 영향 범위와 파급력이 한층 확대되고 있다. 인공지능은 산업·공공서비스·일상생활 전반에 걸쳐 인간의 판단과 선택에 깊이 관여하며, 생산성 향상과 사회문제 해결의 새로운 가능성을 열어가고 있다. 그러나 인간의 자율성 침해, 프라이버시 침해, 편향과 차별, AI 오작동·오남용 등 안전성 문제, 환경 부담, 사회적 격차 등 윤리적 쟁점 또한 함께 부상하고 있다. 국제사회 역시 기존 인공지능 규범의 기본 틀을 유지하면서, 최근 기술 변화와 사회·경제적 영향을 반영해 논의를 지속적으로 보완해가고 있다. 국내에서도 인공지능 관련 법제도적 환경이 정비됨에 따라 기존의 윤리기준을 계승·발전시켜 윤리원칙으로 새롭게 정립할 필요가 있다. 이에 본 윤리원칙은 변화한 기술·사회 환경을 반영하여 인공지능의 개발·제공·이용 전 과정에 걸쳐 지향해야 할 공통의 가치와 원칙을 제시한다.
본 윤리원칙은 특정 기술이나 분야에 한정된 세부 기준이 아니라, 인공지능과 관계되는 모든 주체가 함께 참고할 수 있는 범정부적·범사회적 차원의 상위 원칙이다. 법령과 제도가 사회적으로 필요한 최소한의 기준을 설정하고 그 이행을 확보하는 역할을 한다면, 윤리원칙은 빠르게 변화하는 인공지능 환경에서 다양한 주체가 보다 바람직한 방향을 스스로 판단하고 실천할 수 있도록 안내하는 기준으로 기능한다. 본 윤리원칙은 개별 법령이나 가이드라인을 대체하기 위한 것이 아니라, 이들 간의 정합성과 일관성을 뒷받침하고, 기술 변화에 따른 새로운 쟁점을 논의하고 해석하는 데 필요한 공통 언어를 제공한다. 또한 사회구성원 모두의 자율적 실천과 인공지능 윤리문화 확산을 위한 토대가 되고자 한다.
인공지능 기술과 산업의 혁신은 우리 사회의 발전에 중요하며, 본 윤리원칙은 이러한 혁신이 인간과 사회가 신뢰할 수 있는 방향으로 이루어지도록 자율적 실천의 기반을 마련하는 데 목적이 있다. 다만 이는 기술과 산업의 발전을 무조건적으로 추구하는 것을 의미하지는 않는다. 인공지능은 편익과 위험, 현재와 미래의 영향을 균형있게 고려하여, 인간의 존엄성, 사회의 공공선, 기술의 신뢰성에 부합하는 방식으로 개발·제공·이용되어야 한다.
본 윤리원칙에서 제시하는 원칙들은 상황에 따라 상충관계가 발생할 수 있으며, 그 해결 방식은 개별 맥락과 상황에 따라 달라질 수 있다. 이러한 경우에는 상위 가치를 기준으로 인공지능의 활용 맥락, 영향의 성격과 정도, 이해관계자의 범위 등을 종합적으로 고려해야 한다. 본 윤리원칙은 각각 원칙들 사이에 고정된 형태의 우선순위를 제시하기보다, 다양한 이해관계자가 지속적인 토론과 숙의 과정을 통해 적합한 균형점과 실천 방안을 찾아가는 공통의 출발점이 되고자 한다.
Ⅱ. 「인공지능 윤리원칙」(안) : 3대 가치, 6대 원칙
[3대 가치] 인공지능 개발·제공·이용 과정에서 지향되어야 할 규범적 방향
1. 인간의 존엄성 (Human Dignity)
인공지능의 개발·제공·이용 전 과정에서 인간의 주체성과 자율적 선택은 존중되어야 하며, 인간이 특정 목적 달성을 위한 수단으로 취급되거나 삶의 가치 실현이 저해되지 않도록 해야 한다.
인간의 생명·신체·건강·재산은 인공지능으로 인하여 침해되거나 훼손되어서는 아니 된다.
인공지능의 개발·제공·이용 전 과정에서 인간은 필요한 관리·감독을 할 수 있어야 하며, 이는 기술적·제도적으로 보장되어야 한다.
2. 사회의 공공선 (Common Good of Society)
인공지능은 인류 공동의 이익에 기여하는 방향으로 개발·제공·이용되어야 하며, 이 과정에서 사회와 환경의 지속가능성 및 미래세대의 선택 가능성이 고려되어야 한다.
다양한 이해관계자의 특성과 관점은 인공지능의 개발·제공·이용 전 과정에서 균형 있게 고려되어야 한다.
사회구성원 누구나 인공지능의 혜택과 기회를 누릴 수 있어야 하며, 인공지능을 주체적으로 활용할 수 있는 기술적·제도적 기반 또한 보장되어야 한다.
3. 기술의 신뢰성 (Trustworthiness of Technology)
인공지능 기술의 목적은 정당해야 하며, 그 작동 원리는 설명 가능해야 한다.
인공지능 기술에 수반되는 잠재적 위험과 장기적 영향은 사전에 식별·평가되고 지속적으로 관리되어야 한다.
인간의 삶의 질 향상과 사회적 가치 창출에 기여하는 신뢰할 수 있는 인공지능 기술의 개발·제공·이용을 장려하여야 한다.
[6대 원칙] 가치를 실현하기 위해 인공지능 전체 생명주기에 걸쳐 충족·확인되어야 할 기준
1. 인간의 자율성 (Human Autonomy)
[자기결정권 보호] 인공지능은 인간의 판단과 선택을 지원·보완하고, 인간의 자기결정권이 존중·확대되는 방향으로 개발·제공·이용되어야 한다.
[과의존 방지] 인공지능에 대한 지나친 의존으로 인간의 사고력과 비판적 판단이 약화되지 않도록, 이용자가 인공지능의 산출물을 스스로 검토하고 주체적으로 활용할 수 있는 시스템적·관리적 환경이 보장되어야 한다.
[인간 감독] 인공지능이 이용자의 취약성을 악용하거나 판단을 왜곡하지 않도록 해야 하며, 중요한 결정에 활용되는 경우 인간이 그 결과를 검토·수정·중단할 수 있도록 실질적인 감독 체계가 마련되어야 한다.
2. 프라이버시 (Privacy)
[프라이버시 존중] 인공지능의 개발·제공·이용 전 과정에서 개인의 사생활의 비밀과 자유가 침해되거나, 인공지능이 감시나 조작의 수단으로 활용되지 않도록 해야 한다.
[데이터 적정 활용] 개인정보 등 데이터는 이용 목적에 필요한 범위에서 적법하고 정당하게 수집·이용되어야 하며, 여러 정보를 결합하거나 분석하는 과정에서 개인이 식별되거나 민감한 정보가 드러나지 않도록 최소 필요한 수준으로 관리·처리되어야 한다.
[정보주체 권리 보장] 정보주체는 자신의 개인정보 처리에 관한 자기정보통제권을 보장받고, 이를 실질적으로 행사할 수 있어야 한다.
3. 공정성·포용성 (Fairness and Inclusiveness)
[차별 금지 및 공정한 배분] 인공지능으로 인한 편익과 부담이 특정 개인이나 집단에 편중되지 않아야 하며, 인공지능은 성별·연령·장애·언어·지역·종교·활용역량 등 개인이나 집단의 특성을 이유로 부당한 차별이나 불이익을 초래하지 않도록 개발·제공·이용되어야 한다.
[편향 최소화] 인공지능에 활용되는 데이터와 알고리즘에 내재된 편향이 사회적 불평등이나 부당한 불이익을 재생산하지 않도록, 인공지능의 개발·제공·이용 전 과정에서 데이터·알고리즘 및 산출물에 대한 지속적인 점검과 개선이 이루어져야 한다.
[접근성 및 포용성 확보] 이용자의 디지털 역량이나 환경적 제약과 관계없이 누구나 인공지능의 혜택에 동등하게 접근할 수 있어야 하며, 기술적 소외가 사회적 배제로 이어지지 않도록 포용적인 이용 환경이 보장되어야 한다.
4. 지속가능성 (Sustainability)
[환경적 지속가능성] 인공지능의 개발·제공·이용 전 과정에서 발생하는 에너지 소비, 탄소 배출, 자원 소모 등 환경적 영향은 합리적으로 관리되어야 한다.
[사회적 지속가능성] 인공지능의 확산이 고용 구조, 공동체의 신뢰·협력 등 사회 전반에 미치는 영향은 장기적 관점에서 평가·점검되고 체계적으로 관리되어야 한다.
[세대 간 형평성] 인공지능은 그로 인한 편익이 현 세대에 집중되고 그에 따른 부담이 미래세대에 전가되지 않도록, 미래세대의 선택지와 기회가 고려되는 방향으로 개발·제공·이용되어야 한다.
5. 안전성 (Safety)
[안전한 설계와 운영] 인공지능은 오작동이나 오남용 등으로 생명·신체·건강·재산 등 인간과 사회에 위해를 초래하지 않도록 안전하게 개발·제공·이용되어야 한다.
[보안성 확보] 인공지능에 대한 외부 공격, 무단 접근, 오남용 등으로 인한 위험을 줄일 수 있도록 적정한 보안조치와 접근통제 체계가 갖추어져야 한다.
[강건성 및 회복탄력성 확보] 장애나 사고가 발생하더라도 인공지능 본래의 기능을 안정적으로 유지하고 신속히 복구될 수 있도록 대응·회복체계가 마련되어야 한다.
6. 투명성 (Transparency)
[인공지능 활용 고지] 인공지능 개발·제공·이용 전 과정에서 인공지능의 사용 여부와 목적, 주요 기능과 작동 방식, 적용 범위와 한계, 위험과 유의사항 등은 이용자와 사회가 이해할 수 있는 방식으로 제공되어야 한다.
[비례적 투명성 확보] 인공지능의 투명성은 활용 목적, 기능, 위험 수준, 이용자 특성 등을 고려하여 상황에 맞게 확보되어야 하며, 프라이버시·영업비밀 보호 등 다른 정당한 가치와의 균형 속에서 구현되어야 한다.
[설명 및 이의제기 절차 보장] 인공지능이 개인의 권리·의무·안전에 중대한 영향을 미치는 의사결정에 활용되는 경우, 결정의 대상이 해당 결정의 주요 이유와 판단 요소를 이해할 수 있도록 설명이 제공되어야 하며, 이의를 제기하거나 재검토를 요청할 수 있는 절차가 마련되어야 한다.
