“AI도 실수할 수 있어”…AI 손실 보장할 ‘AI 보험’ 뜬다

[이데일리 김영은 기자] 챗GTP 같은 생성형 인공지능(AI)을 적용했을 때 입을 수 있는 재정적 손실을 보장하는 보험 상품이 곧 출시될 전망이다. 생성형 AI 공급업체들도 자사 AI의 잠재적 위험을 보완할 자체 안전망 마련에 나섰다.

AI.(사진=게티이미지뱅크)

4일(현지시간) 월스트리트저널(WSJ) 등에 따르면 캐나다에 본사를 둔 스타트업 AI 보험사 아밀라보험은 세계적인 재보험사 스위스리, 초서(Chaucer) 등의 지원을 받아 생성형AI로 인한 재정적 손실에 특화된 보험 서비스를 제공할 예정이다. 이들은 AI 모델이 판매자가 약속한 대로 작동할 것이라는 제품 보증격의 보험을 선보일 전망이다.

세계적인 독일 재보험사(보험사가 인수한 계약의 일부 또는 전부를 인수하는 보험사) 뮌헨리의 마이클 버거 AI보험부 대표는 앞서 2018년 AI 서비스를 판매하는 회사를 위한 보험 체계를 발표했다. 뮌헨리는 기업이 개발한 자체 AI 모델이 인간이라면 하지 않았을 실수를 하는 경우 재정적 손실을 보상해준다고 홍보하고 있다.

생성형 AI로 인한 비즈니스 위험에는 △사이버 보안 문제 △저작권 침해 가능성 △부정확하거나 편향된 결과물 △잘못된 정보 △회사 기밀 데이터 등이 포함된다.

아밀라보험, 스위스리, 뮌헨리 등 세계적인 보험사는 자체 AI 전문 지식과 독점 평가 체계에 의존해 위험 가격을 책정하고 있다. 아밀라보험은 학습데이터, 모델 구축자, 테스트상 성능, 고객의 모델 사용방식 등 8가지 요소를 조합해 특정 AI 모델의 위험을 평가하고 이를 통해 고객과 AI 모델 사용의 위험과 보험 가능 여부를 결정한다. 카르틱 라마크리슈난 아밀라보험 최고경영자(CEO)는 “생성형 AI모델 테스트를 이제 막 시작한 단계다”고 설명했다.

이들은 AI 모델이 실패할 경우 고객이 AI 공급업체에 라이선스 비용으로 지불한 금액까지 고객에게 상환한다. 스위스리는 “아밀라보험의 AI 보험이 편견, 저작권, 데이터, 프라이버시 등 더 복잡한 문제에 대한 데이터를 학습을 통해 확보한다면 다음 단계가 무엇인지도 파악할 수 있을 것”이라고 내다봤다.

뮌헨리는 사내 연구팀을 통해 AI 모델의 위험도를 측정하고 있다. 버거 AI보험부 대표는 “가격 책정 작업은 각 AI 모델이 가진 새롭고 보이지 않는 데이터와 관련한 불확실성에 대해 신뢰할 수 있는 통계적 추정치를 찾는 작업과 같다”며 “다른 형태의 AI와 달리 성능에 더 많은 가변성이 있고 지적 재작권 침해 위험 유발 요인, 차별과 같은 위험을 고려하는 등 추산 과정에서 특별한 고려가 필요하다”고 설명했다.

맥킨지 연구원들은 생성형 AI가 연간 수조달러를 창출하는 동시에 리스크를 관리하는 방법에 대한 문제로 이어질 것이라고 내다봤다. 시장조사기관 포레스터의 엘렌 카니 애널리스트도 “대부분의 보험사가 이런 기회를 어떻게 포착할지 고민하고 있다”며 “(AI 보험은) 보험 세트에서 점점 당연한 일이 될 것이다”고 말했다.

WSJ는 “향후 10년 동안 보험사가 얻을 수 있는 기회는 엄청날 수 있다”고 덧붙였다. IT분야 리서치 기업인 가트너의 애널리스트인 아비바 리탄도 “AI보험이 출시된다면 대기업의 50% 이상이 해당 보험에 가입할 것이라고 장담한다”고 밝혔다.

생성형 AI 공급업체 또한 자체적으로 기업에 보험과 같은 형태의 안전망을 제공할 전망이다. 어도비는 지난 6월 기업들이 자사 생성형AI로 제작하는 콘텐츠에 대해 면책권을 구입할 수 있다고 밝혔다. 즉, 자사 생성형AI로 제작한 콘텐츠가 지적재산권을 침해 소송 등을 당하면 기업들에 회사 방어를 위한 법적 비용, 잠재적인 벌금을 대신 부담한다. 지난주 IBM은 일반 계약에서 체결하는 지적재산권 보호 제도를 자사 생성형 AI 모델에 적용할 것이라고 밝혔다. MS도 지난 9월 고객이 내장된 가드레일(안전장치)을 사용해 저작권 보호 콘텐츠를 필터링하는 경우, 생성형 AI 기반의 소송의 법적 비용을 보장할 것이라고 밝혔다.

다만 AI모델의 비즈니스 사용 및 성능에 대한 과거 데이터가 없을 경우 보험사 등이 위험도를 구체적으로 평가하기 어렵다는 우려가 따른다. WSJ는 “생성형 AI 모델이 매우 빠르게 변화하고 있어 위험 평가 방법도 역동적으로 변화해야 한다”고 덧붙였다.