'챗GPT'가 악성코드 만든다?…'구글·MS' 빅테크, AI보안 경쟁

by함정선 기자
2023.06.16 13:45:53

[이데일리 함정선 기자] 생성형AI가 빠른 속도로 확산하며 공공과 기업, 개인의 보안에 대한 우려도 커지고 있다. ‘챗GPT’와 같은 생성형AI 이용과정에서 개인정보가 유출되는 사례가 생겨나고 있고, 생성형AI를 이용해 새로운 악성코드를 만들어내려는 시도까지 발견되고 있기 때문이다.

향후에는 생성형AI를 랜섬웨어, 피싱메일 등을 제작하는 도구를 만드는 데 활용할 수 있다는 분석까지도 제기되고 있다. 챗GPT가 업무를 더 쉽게 해줄뿐만 아니라 사이버공격도 더 쉽게 만들어준다는 얘기다.

이에 구글과 마이크로소프트(MS), 아마존웹서비스(AWS)와 같은 빅테크들이 발 빠르게 보안 분야 경쟁에 나서고 있다. 생성형AI를 이용한 공격을 막기 위해 인공지능(AI)을 활용한 보안 솔루션을 잇따라 선보이면서다. AI 공격을 막기 위해 특화한 AI 관련 기술을 활용, 경쟁사와 차별화를 꾀하는 것도 특징이다.

마이크로소프트(MS)는 오픈AI의 차세대 AI인 ‘GPT-4’가 공개된 이후 ‘시큐리티 코파일럿(Microsoft Security Copilot)’에도 이를 도입하겠다고 밝혔다.

시큐리티 코파일럿을 이용하면 기업의 보안 담당은 질문을 입력하는 것만으로도 보안 취약점에 대한 요약을 받아보거나 다른 보안 도구에서 발생한 사건이나 경보도 바로 알 수 있다.

MS에 따르면 사이버 세상에서는 초당 1287건의 패스워드 공격이 발생하고 있으며, 단편적인 도구와 인프라로는 이 같은 사이버 공격을 막기에 충분하지 않다. 지난 5년 동안 사이버 관련 공격은 67% 증가했지만, 보안 업계는 이에 대응할 수 있는 사이버 위험 전문가를 충분히 고용하지 못하고 있는 실정이다.

MS는 시큐리티 코파일럿이 AI와 결합해 이 같은 보안 위협을 학습하고 이해하고 있다고 강조한다. 시큐리티 코파일럿이 보안 담당자를 대신해 보안 위협 정보를 최신 수준으로 학습하고 개선하고 있어서다.



구글은 보안에 특화한 대규모 언어모델(LLM)을 탑재한 보안 솔루션인 ‘구글 클라우드 시큐리티 AI 워크벤치’를 선보였다. 이 모델은 생성형AI와 머신러닝 등을 활용한 공격에 대응하기 위해 고도화한 기술을 적용한 것이 특징이다.

‘바이러스토털 코드 인사이트(VirusTotal Code Insight)’는 잠재적 악성 스크립트의 동작을 분석하고 설명하며, 실제로 위협이 되는 스크립트를 더욱 잘 탐지할 수 있도록 지원한다. ‘크로니클을 위한 맨디언트 브리치 애널리틱스(Mandiant Breach Analytics for Chronicle)’는 사용자 환경에서 침해가 발생하면 자동으로 경고하고 즉각적인 대응이 가능하도록 한다.

이와 함께 ‘크로니클 AI(Chronicle AI)’를 이용하면 수십억 건의 보안 이벤트를 검색하고 결과에 대해 대화형으로 질문하며 신속하게 위험 요소를 탐지할 수 있다. ‘시큐리티 커맨드 센터 AI(Security Command Center AI)’는 사이버 공격 등으로 영향을 받은 자산 등에 대한 설명을 제공해 보다 쉽게 공격에 대해 이해하고 대응할 수 있게 돕는다.

글로벌 클라우드 서비스 1위 기업 아마존웹서비스(AWS)는 인공지능(AI)과 머신러닝(ML) 기술을 활용한 보안 전략을 내세우고 있다. 생성형AI를 비롯한 여러 애플리케이션(앱)을 개발할 때 코딩 단계부터 보안을 강화할 수 있도록 돕는 것이 특징이다.

AWS가 AI·ML 기술을 적용해 선보인△아마존 코드구루 보안(Amazon CodeGuru Security) △코드위스퍼러(CodeWhisperer) △베드록(Bedrock) 등 솔루션은 ‘챗GPT’와 같은 생성형AI의 정보 유출이나 취약한 보안을 지원하는 역할을 한다.

아마존 코드구루 보안은 AI·ML을 사용해 애플리케이션을 구성하고 있는 코드 내 취약성을 식별하도록 돕는다. 문제 해결을 위한 방법까지 제공하는 점이 특징이다. 코드위스퍼러는 AI 기술을 적용, 개발자가 코딩을 보다 안전한 환경에서 수행할 수 있도록 지원한다. 보안 스캐닝을 통한 취약점 정보도 제공한다.

베드록은 기업이 자체 생성형 AI 기반 애플리케이션을 구축·배포할 수 있도록 지원한다. 무엇보다 자체 생성형 AI를 구축하는 과정에서 제공한 기업 데이터가 AWS 클라우드에 남지 않아 데이터 유출 우려로 챗GPT 도입을 꺼렸던 기업에 도움이 될 수 있다.