“답하는 AI에서 일하는 AI로”…과기부, ‘AI 에이전트 시대 생존 매뉴얼’ 발간

[이데일리 김현아 기자] 인공지능(AI)이 단순히 질문에 답하는 도구를 넘어 스스로 계획하고 업무를 수행하는 ‘AI 에이전트’ 시대로 접어들면서, 정부가 인간과 AI의 공존을 위한 대응 방향을 제시했다.

과학기술정보통신부는 2025년 기술영향평가 결과를 바탕으로 작성한 ‘AI 에이전트 시대의 생존 매뉴얼’을 발간했다고 밝혔다. 이번 매뉴얼은 AI 에이전트 확산이 가져올 산업적 기회와 사회적 변화를 분석하고, 기술 발전에 따른 대응 과제를 담았다.

AI 에이전트는 기존 생성형 AI처럼 사용자의 질문에 답하는 수준을 넘어, 목표가 주어지면 스스로 계획을 세우고 정보를 수집하며 다양한 디지털 도구를 활용해 업무를 수행하는 자율형 AI 시스템이다.

개인 비서, 연구 지원, 업무 자동화 등 다양한 분야에서 활용이 확대되면서 AI 에이전트는 향후 인간의 의사결정 방식과 생산 체계를 바꿀 핵심 기술로 주목받고 있다.

하지만 AI 에이전트 확산이 긍정적 효과만 가져오는 것은 아니다. 매뉴얼은 생산성 향상과 새로운 산업 창출이라는 기회와 함께 개인정보 침해, AI 판단에 따른 책임 소재 문제, 일자리 구조 변화, 허위정보 확산, 인간의 기술 의존 심화 등 사회적 위험도 함께 지적했다.

특히 AI의 자율성이 높아질수록 AI가 내린 판단과 결과에 대한 책임 기준을 어떻게 마련할지가 중요한 과제로 떠오르고 있다고 설명했다.

과기정통부는 AI 에이전트 시대를 대비하기 위한 정책 방향으로 6대 핵심 과제를 제시했다.

우선 AI의 판단과 행동에 대한 책임 기준을 마련하는 ‘AI 책임체계 구축’을 추진한다. 이와 함께 개인정보의 안전한 보호와 활용을 위한 제도 개선, AI 시대 변화에 대응하는 인재 양성과 교육 강화, 인간과 AI가 협업하는 노동 환경 조성 등을 주요 과제로 꼽았다.

또한 AI 기술의 안전성과 신뢰성을 확보하고, 글로벌 AI 경쟁 속에서 국가 경쟁력을 유지하기 위한 디지털 주권 강화도 핵심 과제로 제시했다.

과기정통부 관계자는 “AI 에이전트가 국민과 산업의 강력한 조력자로 자리 잡기 위해서는 기술 확산과 함께 책임성과 신뢰성 확보가 우선돼야 한다”고 말했다.

한편 해당 매뉴얼은 7월 23일부터 과학기술정보통신부와 한국과학기술기획평가원 누리집을 통해 누구나 무료로 확인할 수 있다.