욕먹더라도 ‘소버린 AI’가 필요한 이유 [김현아의 IT세상읽기]

[이데일리 김현아 기자] 독자 AI 파운데이션 모델(독파모)에 이어 보안 특화 AI, 프론티어 AI까지 정부의 AI 투자가 넓어지고 있다. 사업마다 막대한 예산과 GPU가 투입될 때마다 나오는 비판도 비슷하다.

“오픈AI나 구글, 앤스로픽 같은 글로벌 빅테크의 완성도 높은 AI를 사다 쓰면 되지, 왜 굳이 막대한 세금을 들여 국산 AI를 만들어야 하나.”

충분히 나올 수 있는 비판이다. 하지만 최근 국내 금융권을 뒤흔든 해킹 사태를 보면, 논쟁의 차원이 달라진다.

공격자가 이미 AI와 오픈소스 도구를 앞세워 우리 시스템을 파고들고 있기 때문이다.

출처=깃허브

최근 신한은행 웹서버에서 관련 중국어 문자열이 발견돼 주목받은 ‘아르텍스(ARTEX)’를 보자. ARTEX는 대규모언어모델(LLM)을 활용해 자산 탐색, 취약점 분석, 공격 경로 설정, 보안 도구 실행 등을 자동화하는 오픈소스 침투테스트 도구다. 깃허브에 공개돼 있어 누구나 내려받을 수 있다. 다만 신한은행 공격에 ARTEX가 실제 사용됐는지는 아직 확인되지 않았다.

하지만, 이처럼 AI해킹 도구의 접근 장벽이 낮아지고, 취약점 탐색부터 공격 경로 설정까지 자동화할 수 있는 환경이 만들어지고 있는 것은 사실이다.

이런 공격이 실제 시스템에서 벌어진다고 생각해보자. AI 기반 공격 도구를 이용하면 취약점을 찾아 서버에 침투하고, 계정을 탈취한 뒤 다른 서버로 이동하면서 권한을 넓히는 공격을 자동화할 수 있다. 문제는 이 과정이 한꺼번에 요란하게 벌어지는 게 아니라 정상적인 시스템 활동 사이에 섞여 진행될 수 있다는 점이다.

사람이 수많은 서버의 로그를 24시간 들여다보며 ‘지금 이 서버의 이상 징후가 다른 서버의 움직임과 연결돼 있다’고 실시간으로 판단하는 것은 현실적으로 어렵다. 공격자가 AI로 취약점을 스캔하고 침투 경로를 자동화한다면, 방어자 역시 AI로 로그와 트래픽을 분석해 평소와 다른 미세한 움직임을 찾아내야 한다. 어느 서버에서 시작됐고, 어떤 계정이 도용됐으며, 내부망의 어디로 번져가는지를 연결해 판단해야 한다.

공격이 AI화되는 시대다. 방어만 사람의 눈과 손에 의존할 수는 없다. 방어도 AI화해야 한다.

[디자인=이데일리 김정훈 기자]

그렇다면 다시 궁금해진다.

“그 방어 AI조차 세계 최고 수준의 외산 모델에 맡기면 안 되는가.”

간단한 문제가 아니다. 우리 시스템의 민감한 데이터를 다루면서 외부 연결이 차단된 환경에서도 즉각 작동해야 하기 때문이다.

보안 AI가 제대로 작동하려면 실제 공격 데이터가 필요하다. 금융회사의 보안 로그와 이상 거래 정보, 통신망 트래픽, 전력망 데이터, 국가 기반시설의 시스템 로그처럼 ‘어디가 뚫렸고 어떤 시스템이 어떻게 연결돼 있는지’를 보여주는 민감한 정보다. 시스템 구조와 취약점을 담은 데이터를 해외 빅테크의 클라우드 API에 넘겨 분석을 맡기는 데는 보안상 부담이 따른다.

폐쇄망 환경도 이유다. 금융·전력·통신·국방 등 핵심 인프라는 외부 인터넷과 분리된 환경에서 운영되는 경우가 많다. 침투 흔적이 감지된 긴박한 순간에 외부 서비스에 접속해 분석 결과를 기다릴 수는 없다. 외부와 단절된 서버 안에서 즉시 로그를 읽고 이상 행동을 분석할 수 있는 독립적인 AI가 필요한 이유다.

이 지점에서 소버린 AI의 의미가 생긴다.

최근 정부가 사이버보안 특화 AI 사업자로 네이버클라우드 컨소시엄을 선정한 것도 이런 맥락이다. 네이버클라우드와 LG AI연구원·LG CNS·LG유플러스, 금융보안원·한전KDN·한국수력원자력 등 30여 개 기관이 참여한다. 정부의 GPU 지원과 함께 금융·전력·통신 등에서 확보한 약 830TB 규모의 실전 보안 데이터를 활용한다.

네이버는 방어 AI를, LG는 공격 AI를 맡아 서로 모의 공격과 방어를 주고받으며 성능을 높인다. 단순 챗봇이 아니라 AI가 보안 도구를 활용해 공격을 분석하고 대응하는 능동형 체계를 구축하겠다는 설계다. 이 모델을 내년 7월 오픈소스로 공개해 국내 보안 생태계의 공용 기반으로 삼겠다는 계획도 의미가 있다.

이러한 시도가 중요한 것은 세계 최고 AI와 체급 경쟁을 벌이기 위해서가 아니다. 위기가 닥친 결정적인 순간, 외부 서비스에 의존하지 않고 우리 시스템 안에서 즉시 상황을 판단하고 대응할 AI가 필요하기 때문이다.

물론 외산 AI 모델을 전부 배척할 이유는 없다. 산업 전반의 AI 개발에는 글로벌 모델의 성능과 기술력을 적극 활용하는 것이 합리적이다. 소버린 AI의 본질 역시 모든 것을 국산화하자는 데 있지는 않다.

다만 국가의 혈관인 금융망과 전력망, 통신망이 공격받는 최전선만큼은 남의 손에만 의존할 수 없다. 그래서 우리의 보안AI, 우리의 프론티어 AI모델이 필요하다.

비용이 많이 든다는 비판도, 글로벌 빅테크보다 당장 성능이 뒤처진다는 지적도 나올 수 있다. 하지만 공격자가 오픈소스 도구와 AI를 쥐고 우리 인프라의 ‘쪽문’을 노리는 시대다. 그 쪽문이 열리는 순간 가장 먼저 알아채고 대응할 최소한의 독자적인 방어 능력은 우리 손에 쥐어져 있어야 한다.

욕을 먹더라도, 소버린 AI를 포기할 수 없는 이유다.