|
19일(현지시간) 월스트리트저널 보도에 따르면 구글의 AI 모델 제미나이는 지난 5월 보안 평가 시험 도중 실제 기업 3곳의 시스템에 무단으로 접근했다. 발단은 사람의 실수였다. 독립 보안평가업체 어귤러가 진행한 모의 침투 훈련에서 격리된 테스트 환경이 외부 인터넷과 의도치 않게 연결됐고, 훈련용으로 설정한 가상 기업의 이름이 공교롭게도 실제 기업과 겹쳤다. 제미나이는 이를 인터넷 검색으로 확인하는 과정에서 대상을 실제 기업으로 오인했고, 무차별 비밀번호 대입과 공개된 온라인 저장소에 노출된 인증 정보를 이용해 해당 기업들의 네트워크 내부까지 진입했다. 구글 측은 제미나이가 상대가 실제 기업임을 인지한 직후 스스로 작업을 멈췄으며 데이터 유출이나 시스템 파괴 등의 피해는 없었다고 밝혔다. 이 사실은 평가업체로부터 지난 7월 말 뒤늦게 통보받았고, 구글은 피해 기업과 미 연방 당국에 이를 알렸다.
비슷한 시기 벌어진 또 다른 사건은 이번엔 의도된 침투였다. AI 보안업체 해크트론 연구진은 앤트로픽의 신형 모델 ‘클로드 오퍼스5’를 활용해 오픈AI의 내부 시스템에 침투하는 실험을 진행했는데, 취약점을 찾아낸 시점부터 핵심 시스템 접근까지 걸린 시간이 72시간이 채 되지 않았다. 이전 모델인 오퍼스4.8로는 실패했던 공격이 오퍼스5가 공개되자마자 단 몇 시간 만에 공격용 스크립트 작성으로 이어졌고, 연구진은 오픈AI 고객센터 게시판의 취약점을 통해 서버에 접속한 뒤 직원 계정 정보를 확보해 핵심 알고리즘이 보관된 내부 저장소까지 접근하는 데 성공했다. 오픈AI는 제보를 받은 지 14시간 만에 시스템을 보완했고 이 과정에 전체 엔지니어의 25%를 투입했으며, 연구진에게는 900만원 상당의 포상금이 지급됐다.
두 사건 모두 AI 모델이 자율적으로 판단하고 행동하는 능력이 빠르게 고도화되고 있다는 점을 보여준다. 방어 목적의 실험에서도, 보안 테스트 과정에서도 AI가 실제 시스템에 손을 뻗을 수 있다는 사실이 확인된 셈이다.
한편엔비디아 CEO 젠슨 황은 지난 10일 골드만삭스 기술 콘퍼런스에서 “사이버 보안이 AI의 다음 주요 적용 분야가 될 가능성이 매우 높다”고 언급했다. AI로 인한 공격이 정교해지는 만큼 실시간 방어 기술에 대한 수요도 함께 커질 수밖에 없다는 취지다. 업계에서는 글로벌 AI 보안 시장 규모가 내년 47억8300만달러(약 6조4451억원)로 68.7% 성장하고 2028년에는 77억달러 수준까지 커질 것으로 전망하고 있으며, 국내에서도 과학기술정보통신부와 한국인터넷진흥원이 120억4000만원 규모의 지원 사업을 추진 중이다.
<마켓잉크 김건우 기자>
기사 내용은 작성기관의 견해이며, 이데일리의 편집 방향과 다를 수 있습니다. 정보 이용에 따른 판단은 독자에게 있습니다.
