.png)
9일 가트너는 공격자가 표적의 취약점을 악용해 우위를 점할 수 있는 ‘4대 주요 사이버 위협’으로 △딥페이크 △AI 애플리케이션 침해 △프롬프트 인젝션 △소프트웨어 공급망을 선정했다고 발표했다.
가트너는 위협 정보의 양과 질을 뜻하는 ‘위협 신호’와 조직의 관리 능력을 뜻하는 ‘대응 역량’을 기준으로 이번 위협 환경을 평가했다.
존 왓츠 가트너 VP 애널리스트는 “AI 기업들이 보안 이니셔티브를 도입하고 있지만, 기존의 복잡했던 위협 환경에 혼란이 가중되는 모양새”라며 “사이버보안 책임자는 이러한 혼란 속에서도 핵심 위협 신호를 식별해 변화에 기민하게 대응해야 한다”고 강조했다.
가트너가 지목한 4대 핵심 위협의 주요 내용과 구체적인 대응 방향은 다음과 같다.
|
생성형 AI의 발전으로 음성·영상·이미지 전반에서 딥페이크 생성의 규모와 정밀도가 크게 향상됐다. 최근에는 사전 제작된 콘텐츠를 넘어 ‘실시간 생성’이 가능해지면서 공격자가 다양한 경로로 신원을 사칭하는 사례가 늘고 있다. 이는 생체인증 절차 무력화, 직원을 겨냥한 실시간 사회공학적 공격, 채용 절차 교란 등에 악용될 수 있다.
왓츠 애널리스트는 “공격자의 기법이 고도화되면서 이제는 사기나 피싱 공격을 육안으로 탐지하기 어려울 정도”라며 “단일 보안 조치로는 막을 수 없는 만큼 비즈니스 프로세스 강화, 보안 인식 제고, 탐지 기술 도입을 아우르는 다층 방어 전략이 필수적”이라고 권고했다.
가트너는 이에 대한 대책으로 탐지 기술에만 의존하는 사후 처방에서 벗어나야 한다고 조언했다. 기업들은 활용 사례별로 다층적인 통제 수단을 구축하고, 맥락 기반 신호 외에도 프레젠테이션·인젝션 공격 탐지 기능을 강화해 생체 신원 확인 프로세스를 보호해야 한다. 특히 온라인 회의 환경을 보호하기 위해 회의 참가자에 대한 강력한 조건부 접근 정책을 시행하고, 통화 메타데이터 분석을 병행하는 등 실시간 통신의 무결성을 확보하는 제어 장치가 필요하다.
에이전틱 AI 등 ‘확장된 공격 표면’…새 보안 프레임워크 필수
기업 운영 환경에 배포된 사내 AI 도구와 자체 개발 에이전트, 서드파티 통합 앱 등이 새로운 공격 표면으로 떠올랐다. 보안이 취약할 경우 내부의 민감 데이터나 자격 증명이 그대로 노출될 위험이 크다.
따라서 기업 사이버보안 팀은 생성형 AI 모델과 에이전틱(Agentic) AI 도구 도입으로 인해 발생하는 새로운 리스크 영역을 명확히 식별하고 기존 보안 프로그램을 전방위로 확장해야 한다. 가트너는 이를 가시화하기 위한 방안으로 자사의 ‘AI TRiSM(신뢰·위험·보안 관리)’ 프레임워크 활용을 제안했다. 해당 프레임워크를 적용하면 AI 시스템 개발 및 운영 전 과정에서 보안 위협 완화 조치를 어느 단계에 통합해야 하는지 정확히 파악할 수 있다.
알고리즘 왜곡하는 ‘프롬프트 인젝션’…런타임 가드레일로 차단
대규모 언어모델(LLM)을 타깃으로 하는 프롬프트 인젝션도 주요 과제다. 공격자가 악의적인 프롬프트를 주입해 AI 알고리즘의 동작을 왜곡하고, 이를 통해 민감 정보를 유출하거나 보안 통제를 우회하는 방식이다. 기업의 생성형 AI 도입 속도가 빨라질수록 관련 위험도 비례해 증가하는 추세다.
이 같은 우회 공격을 막으려면 AI 시스템 개발 생명주기 전반에 보안 테스트를 완전히 통합해야 한다. 우선 악의적인 프롬프트가 시스템에 유입되지 않도록 입력값 검증 및 정제 체계를 완비하는 것이 급선무다. 나아가 프롬프트 인젝션의 징후인 비정상적인 AI 행동을 실시간으로 감시하는 모니터링 및 경보 체계를 구축하고, 의심 활동을 즉각 차단하는 런타임 가드레일을 세워 지속적으로 보안 통제를 개선해 나가야 한다.
오픈소스 타깃 공급망 위협…‘AIBOM’ 요구하고 권한 통제해야
AI 솔루션의 진화는 오픈소스 소프트웨어의 취약점을 노린 공급망 공격을 더욱 가속화하고 있다. 이에 따라 기존 애플리케이션은 물론 AI 기반 개발 파이프라인 전체를 보호할 수 있는 포괄적인 인벤토리 구축이 시급해졌다.
전문가들은 소프트웨어 자산 인벤토리를 철저히 구축하는 동시에, 모든 소프트웨어 공급업체에 자재명세서(SBOM)뿐만 아니라 ‘AI 자재명세서(AIBOM)’까지 적극적으로 요구해야 한다고 입을 모은다. 배포 전 최신 위협 인텔리전스 도구를 통해 모든 구성요소의 위험도를 평가하는 과정도 빼놓을 수 없다.
아울러 서드파티 코드나 AI 모델은 반드시 검증된 저장소만 사용하고, 빌드 시스템에 최소 권한 기반의 접근 통제를 구현하는 한편 에이전틱 AI 도구의 런타임 활동을 지속적으로 감시하는 강력한 통제력이 요구된다.
