“사람 공격하는 로봇 막는다…오픈AI·엔비디아도 러브콜”

[이데일리 김응태 기자] “피지컬 인공지능(AI) 시대에 저희 회사는 AI가 활용되는 모든 곳에 관문처럼 자리 잡는 보안 인프라가 될 것입니다.”

유상윤 에임인텔리전스 대표. (사진=에임인텔리전스)

AI 보안 스타트업 에임인텔리전스의 유상윤 대표는 최근 서울 강남구 본사에서 이데일리와 만나 “피지컬AI는 에이전트에서 한 단계 더 나아가 인간과 로봇이 물리적으로 접촉하는 환경에서 운영돼 보안이 더욱 중요하다”며 “주요 연구자·기관과 협업을 통해 안전성 측면에서 로봇이 사람에게 위협이 되는 가드레일(안전 장치)을 마련하는 작업에 착수했다”며 이같이 말했다.

지난 2024년에 설립된 이 회사는 생성형 AI부터 에이전트, 피지컬AI에 이르기까지 AI 시스템 전반의 위험을 검증하고 통제하는 솔루션을 개발·제공한다.

유 대표가 창업을 결심한 계기는 AI가 가진 위험성에 대한 문제의식에서 비롯됐다. 대학원에서 AI 안전 분야를 연구하던 그는 AI 업계가 모델 성능 향상에 매몰됨에 따른 문제가 발생할 것을 예견하고, 이를 해결하기 위한 제품을 만들고자 직접 회사를 차렸다.

사업 초기에는 AI 보안에 대한 시장의 관심이 크지 않아 고객 확보에 어려움을 겪었다. 그러다 AI 보안을 주제로 한 세미나에 참여한 게 전환점이 됐다. 세미나에서 발표를 맡았던 그는 현장에서 국내 통신사인 KT의 보안 담당자로부터 AI 모델의 안전성 문제 해결을 위한 협력 제안을 받았고, 이를 계기로 KT의 대형언어모델(LLM)의 보안 취약점을 평가하는 솔루션을 제공하며 사업을 본격화했다.

에임인텔리전스의 핵심 제품은 AI 서비스의 취약점을 찾아내는 ‘스팅어’(Stinger), AI 에이전트 실행 과정에서 위협을 차단하는 ‘스타포트’(Starport)로 나뉜다. 스팅어는 AI 에이전트와 서비스의 보안 취약점을 찾아주는 솔루션이고, 스타포트는 AI 서비스를 이용할 때 보안 위협으로부터 실시간 방어를 지원해준다. 두 제품을 함께 이용하면 스팅어로 보안 취약점을 찾아내고, 스타포트로 보안 문제 발생을 방지하는 체계를 구축할 수 있다. AI 모델뿐만 아니라 모델에 연결된 도구, 데이터베이스 등과 연계한 리스크도 차단해준다.

에임인텔리전스의 기술력이 점차 업계에 알려지면서 다양한 분야에서 고객을 확보했다. 특히 AI 발전 속도가 기하급수적으로 빨라지고 보안 리스크를 선제적으로 관리해야 하는 SK텔레콤, KB국민은행, 교보증권 등 통신·금융사로부터 러브콜이 이어지고 있다.

글로벌 시장에서도 협업 범위가 넓어지고 있다. 에임인텔리전스는 미국 AI 기업 오픈AI, 반도체 기업 엔비디아 등과 보안 솔루션 사업을 함께 전개하고 있다. 유 대표는 “오픈AI가 자체 AI 보안 기능을 출시하기 전 에임인텔리전스가 제품을 검증하는 역할을 수행했으며, 최근에는 보안 파트너로서 오픈AI의 AI 모델과 에임인텔리전스의 솔루션을 패키징하는 범위까지 협업을 확장했다”고 밝혔다. 이어 “최근 엔비디아와도 보안 샌드박스 솔루션을 함께 선보여 기업들이 AI를 안전하게 사용할 수 있는 환경을 지원할 예정”이라고 설명했다.

에임인텔리전스는 기존 AI 에이전트를 넘어 피지컬AI 시장으로 본격 진출하고 있다. 유 대표는 “로봇이 상용화돼서 사람을 공격하고 다친 뒤에 대처하는 건 의미가 없기에 미리 위협을 막는 보안 AI가 필요하다”며 “피지컬AI의 경우 모터나 액츄에이터(근육·관절 역할을 하는 부품)가 설명하기 어려운 값으로 결과가 도출되는 만큼 상황을 종합적으로 판단하고 통제하는 AI를 선보일 것”이라고 말했다.