다크웹서 '챗GPT'로 악성코드 연구…"하반기 보안위협 본격화"

이호석 SK쉴더스 EQST 랩장이 20일 오전 서울 중구 SK T타워 수펙스홀에서 열린 ‘2023년 상반기 보안 트렌드 및 AI 보안 위협 전망’ 미디어 세미나에서 ‘유형별 침해사고 발생 통계’에 대한 발표를 하고 있다.(사진=SK쉴더스)

[이데일리 김가은 기자] 생성형 인공지능(AI)을 활용한 보안 공격이 이르면 올 하반기 본격화할 수 있다는 전망이 제기되고 있다. 해커들이 몰리는 ‘다크웹’에서 AI 챗봇 챗GPT를 활용한 사이버 공격 기법이 지속적으로 연구되고 있는 것으로 나타났기 때문이다.

SK쉴더스 화이트해커 그룹 이큐스트(EQST)는 20일 서울 중구 SKT타워에서 ‘생성형 AI로 인한 보안 위협과 방어 전략’에 대해 발표하며 이같이 밝혔다.

이큐스트에 따르면 현재 해커들은 다크웹을 중심으로 챗GPT 등 생성형AI를 활용한 악성코드나 랜섬웨어 등의 코드를 작성하는 방법을 공유하고 있다. 실제로 다크웹을 확인해보면 챗GPT를 활용해 해당 코드를 작성해봤다는 경험담과 사진이 잇따르고 있다. 챗GPT를 활용해 파일 탈취 프로그램을 만들었다고 밝힌 한 공격자는 “챗GPT를 통해 변종 악성코드 기술을 구현했다”며 “업로드 또는 프로그램 오류 발생 시 폴더와 압축파일이 안전하게 삭제돼 증거도 사라진다”고 게재하기도 했다.

이에 대해 이호석 이큐스트 랩 담당은 “생성형 AI를 사용해 악성코드를 직접 제작하는 건 현 수준으로는 어렵지만, 백신 우회 스크립트를 추가 작성하는 등 보조하는 방식으로 이미 사용되고 있다”며 “또 다크웹이나 커뮤니티를 중심으로 악성코드 생성과 고도화 방법이 공유되고 있어 하반기 관련 위협이 꾸준히 증가할 것으로 예상한다”고 설명했다.

올해 초 다크웹 해커 커뮤니티에 올라온 챗GPT 기반 공격 기법 연구 게시글(사진=다크웹 캡쳐)

생성형AI를 통해 사이버 공격이 확산할 경우에 대해 보안 업계의 고민도 커지고 있다. 대부분 AI 기술을 활용해 이를 방어해야 한다고 보고 있으나 SK쉴더스는 ‘특화 AI’가 필요하다고 강조하고 있다. 범용 생성형 AI를 보안 기술에 적용해 검증했지만 활용도가 떨어졌기 때문이다.

이큐스트는 보안 실무에서 주로 사용하는 △시나리오 모의해킹 △시큐어 코딩 △시나리오 모의해킹 △악성코드 분석 등에 생성형 AI를 적용했으나 활용도가 20~30% 수준에 그쳤다고 밝혔다. 이 담당은 “생성형 AI 모델이 발전함에 따라 악성코드 등을 분석하는 정확도와 활용도가 높아질 것으로 여겨졌지만 보안에서 활용하기엔 초·중급 수준이었다”며 “점검이나 탐지 등 보안 각 영역에 특화한 AI 기술을 사용하는 것이 더 높은 성능을 보였다”고 말했다.

이와 함께 이큐스트는 챗GPT와 같은 생성형AI를 활용한 사이버 공격뿐만 아니라 AI서비스, AI모델 자체를 대상으로 한 공격도 증가할 것으로 예상했다. AI가 잘못된 정보를 제공하도록 하는 ‘회피 공격’아니 AI 모델에 악의적 데이터를 추가해 조작하는 ‘중독 공격’ 등이 그것이다.

특히 AI를 다른 방식으로 학습시켜 사이버 공격을 탐지하지 못하게 막거나 탐지를 회피하는 데 활용하는 ‘추출 공격’이나 AI가 개인정보를 유출하도록 유도하는 ‘추론 공격’도 늘어나고 있다는 설명이다.

이재우 SK쉴더스 이큐스트 사업 그룹장은 “향후 생성형 AI가 더 고도화하면 사이버 공격도 자동화할 수도 있다”며 “이큐스트는 방어 측면의 생성형 AI 적용에 대해 연구해 생성형AI 공격에 대한 대책을 선제적으로 제시할 것”이라고 강조했다.