중앙대 학부생 ‘AI 보안’ 논문, 국제학술대회 채택

[이데일리 신하영 기자] 중앙대 학부생들의 논문이 국제 학술대회에서 발표된다.

왼쪽부터 산업보안학과 임태인 학부생, 주성용 학부생, 김문혁 학부생, 김현준(명지대) 지도교수, 김호기(중앙대) 지도교수(사진=중앙대 제공)

중앙대는 산업보안학과 학부생들이 제1 저자로 참여한 논문이 인공지능(AI) 분야 저명 국제학술대회(NeurIPS 2026)에서 발표 논문으로 채택됐다고 19일 밝혔다.

해당 논문은 AI 보안 에이전트 관련 논문(CyBiasBench: Benchmarking Bias in LLM Agents for Cyber-Attack Scenarios)이다. 산업보안학과 학부생 임태인·주성용·김문혁 학생이 제1 저자로 참여했다.

최근 AI 에이전트는 스스로 도구를 호출하고 공격 계획을 수립, 침투 테스트와 취약점 탐색을 수행하는 수준으로 발전했다. 기존 AI 보안 평가는 대부분 ‘공격에 성공했는가’를 나타내는 공격 성공률에 주력했다. 같은 성공률을 보이는 에이전트라도 실제 어떤 공격을 선택하고 반복적으로 시도하는지는 충분히 평가되지 않았다.

연구팀은 이러한 문제를 해결하기 위해 AI 에이전트가 특정 유형의 사이버 공격을 선호하는 현상인 ‘공격 선택 편향’을 측정하는 벤치마크를 제안했다. 아울러 AI 에이전트가 어떤 공격을 선택하고 실제 공격에 성공하는지를 함께 분석했다. 실험 결과 AI 에이전트마다 선호하는 공격 유형이 뚜렷하게 다른 것으로 나타났다.

이번 연구는 한국연구재단 등의 지원을 받아 수행했다. 해당 논문의 지도교수를 맡은 김호기 교수는 “에이전트별 공격 편향을 활용하면 레드티밍에서 여러 에이전트를 상호보완적으로 구성해 더 다양한 취약점을 탐색할 수 있다”며 “현재 참여 중인 사이버 보안 특화 AI 파운데이션 모델 개발(보안 독파모) 사업에도 연구 결과를 적극 활용할 계획”이라고 말했다.