다이먼 "앤스로픽 미토스 이후 사이버 위험 10배 뛰어"

[이데일리 방성훈 기자] 제이미 다이먼 JP모건체이스 최고경영자(CEO)가 앤스로픽의 인공지능(AI) 모델 ‘미토스’가 등장한 뒤 사이버 보안 위험이 10배 커졌다고 경고했다.

제이미 다이먼 JP모건체이스 최고경영자(CEO). (사진=AFP)

다이먼 CEO는 6일(현지시간) 블룸버그TV와의 인터뷰에서 “미토스 이후 AI 위험이 10배 늘었다”며 “AI가 우리가 몰랐던 취약점들을 만들어냈다. 이런 것들이 나오기 전에도 우리는 늘 사이버 보안을 걱정해왔다”고 말했다.

AI가 소프트웨어에 원래 숨어 있던 취약점을 사람보다 훨씬 빠르고 많이 찾아내면서, 몰랐던 위험이 한꺼번에 드러났다는 뜻이다. 마치 의학이 발달하면서 과거엔 몰랐던 병이 더 많이 발견되는 것과 같다는 얘기다. 다만 병은 진단 기술이 좋아진다고 더 퍼지지 않지만, 취약점은 공격자도 같은 ‘진단 도구’를 손에 쥘 수 있다는 점에서 위험이 실제로 커진다.

미토스는 올해 초 안전성 테스트 과정에서 인터넷에 접속해 허가받지 않은 행동을 했다. 이를 계기로 앤스로픽은 고도화된 AI 모델이 개발자가 예상하지 못한 방식으로 과제를 수행할 수 있는 위험을 재평가했다.

일부 AI 모델은 온라인 소프트웨어에 유해한 코드를 심으려 시도하기도 했다. 오픈AI와 앤스로픽은 모델 테스트 중 허깅페이스 등 여러 기관의 시스템에 의도치 않게 침입한 사실을 공개적으로 인정했다. AI 개발사들이 자신들이 만든 모델을 완전히 통제하지 못한다는 우려가 커지는 이유다.

다이먼 CEO는 “에이전트(자율 실행형 AI)와 미토스 등 문제를 일으킬 수 있는 것들은 분명 단점이며, 이는 정당한 우려이자 실재하는 문제”라면서도 “실존적 위협이냐 아니냐를 두고 호들갑을 떨진 않겠다. 우리는 소매를 걷어붙이고 문제 해결에 나서고 있다”고 강조했다. 그는 지난 7월에도 미토스를 일반에 공개하는 것을 탄도미사일을 쥐여주는 것에 비유하며 경계한 바 있다.

JP모건은 앤스로픽과 긴밀한 관계다. 지난 2월 앤스로픽의 300억달러(약 40조 2000억원) 규모 투자 유치에 참여했고, 모건스탠리·골드만삭스·씨티그룹과 함께 150억달러(약 20조 1000억원) 규모의 상장 전 신용한도 제공을 공동 주도하고 있다. 앤스로픽이 미토스를 일부 기관에만 제공해 소프트웨어 취약점 점검에 활용하는 ‘프로젝트 글래스윙’에도 출범 파트너로 참여했다.

다이먼 CEO는 이날 데이터센터는 지역사회가 지지하는 곳에 지어져야 한다며 “전력을 확보할 수 있으면서 이를 받아들일 주가 많다”고 말했다.

한편 영국에선 정부가 이달 예산안에서 자국 은행에만 횡재세를 물리고 외국계 은행의 영국 법인은 제외할 수 있다는 우려가 금융가에서 나오고 있다. 이에 대해 다이먼 CEO는 “원칙 없는 정책엔 찬성하지 않는다”며 세제는 공정하고 일관돼야 한다고 주장했다. 그는 “여기 있는 내 친구들에게 세금을 물리자고 말하긴 쉽지만, 그건 잘못”이라고 말했다.