|
소식통은 앤스로픽이 올해 안에 새로운 안전 시스템을 도입할 예정이라고 전했다. 회사는 수개월 동안 정책 변경을 준비했으며 세일즈포스를 포함한 100곳 이상의 고객사와 시스템 개발을 조율해왔다.
이번 조치는 지난 6월 발표한 데이터 보관 정책을 일부 수정하는 것이다. 앤스로픽은 당시 고성능 모델인 페이블과 미토스, 앞으로 출시할 프런티어 모델을 사용하는 기업 고객의 트래픽 데이터를 30일간 보관하겠다고 밝혔다. AI가 사이버 공격 등에 악용되는 것을 탐지하려면 일정 기간 데이터가 필요하다는 이유였다.
그러나 기업 고객 입장에서는 AI 업체가 민감한 업무 데이터를 보관한다는 사실 자체가 부담이 될 수 있다. 앤스로픽이 30일 보관 원칙은 유지하면서도 저장 장소를 고객이 결정할 수 있게 하려는 것은 이런 요구를 반영한 조치로 풀이된다.
경쟁사 오픈AI는 다른 해법을 내놨다. 로이터에 따르면 오픈AI는 19일 고객 데이터를 보관하지 않으면서도 기술의 잠재적 악용을 식별할 수 있는 새로운 안전 시스템을 발표했다. 앤스로픽이 ‘어디에 저장할지’에 대한 고객 통제권을 넓히는 방식이라면 오픈AI는 일부 서비스에서 데이터를 보관하지 않는 방향에 무게를 둔 셈이다.
두 회사가 잇따라 데이터 정책을 손보는 것은 기업용 AI 경쟁의 기준이 달라지고 있음을 보여준다. AI 활용 범위가 문서 요약과 검색을 넘어 내부 데이터 분석, 소프트웨어 개발 등 핵심 업무로 확대될수록 모델 성능뿐 아니라 데이터 저장 위치와 보관 기간, 접근 권한도 기업의 AI 선택을 좌우할 수 있다.
특히 기업 고객에게는 안전성과 데이터 보호 사이의 균형이 핵심 과제다. AI 악용을 막으려면 일정 수준의 감시가 필요하지만 이를 위해 고객 데이터를 장기간 보관하면 영업기밀이나 개인정보 보호 우려가 커질 수 있다.
오픈AI와 앤스로픽의 경쟁도 결국 이 지점으로 이동하고 있다. 누가 더 강력한 AI 모델을 내놓느냐뿐 아니라 기업이 민감한 데이터를 얼마나 직접 통제할 수 있게 해주느냐가 기업용 AI 시장의 새로운 승부처로 떠오르고 있다.
