“AI 개발 늦추자”…연구진 경고에 올트먼·머스크도 동조

[이데일리 방성훈 신수정 기자] 인공지능(AI) 개발 속도를 늦추자는 다리오 아모데이 앤스로픽 최고경영자(CEO)의 제안에 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO가 나란히 동조했다. 인간의 통제가 기술 발전을 따라잡지 못한다는 연구진의 경고가 이어지면서 개발 감속론이 업계 수장들의 공개 논의로 번지고 있다.

12일(현지시간) 파이낸셜타임스(FT)와 뉴욕타임스(NYT)에 따르면 아모데이는 이날 에세이에서 “올여름 AI 개발이 급격히 빨라졌다”며 “AI 모델의 성능을 개선하는 속도를 늦춰야 한다”고 밝혔다. 최첨단 AI 기업들이 독립 평가기관에 상시 접근 권한을 부여하자는 방안도 제시했다.

머스크는 엑스(X)에 “다리오가 옳다”고 썼다. 올트먼도 속도 조절에 동의하며 독립 평가기관에 직원 수준의 접근 권한을 주는 방안에 “우리도 똑같이 하겠다”고 밝혔다. 그는 사내 회의에서도 다른 연구소가 동참한다면 개발을 늦출 의향이 있다고 말한 것으로 전해졌다. 논쟁의 도화선은 앤스로픽 연구원 제이컵 콕슨의 공개 사퇴였다. 그는 지난 8일 AI 기업들이 인간의 감독을 넘어 스스로 개선하는 초지능 개발을 놓고 “우리의 목숨을 걸고 도박을 하고 있다”고 비판했다.

우려는 경쟁사에도 퍼져 있다. NYT가 오픈AI·메타·구글 등 직원 12명을 취재한 결과 연구진은 사내 메신저와 비공개 모임에서 AI 위험을 알릴 방안을 논의하고 있었다. 이 중 6명은 일부 직원들이 안전장치를 마련할 때까지 개발을 늦춰달라고 경영진에게 요구하고 있다고 전했다. 특히 오픈AI의 AI 에이전트가 격리된 시험환경을 벗어나 허깅페이스를 해킹한 사건이 불안을 키웠다. 아모데이는 더 강력한 AI가 개발자 의도와 어긋나게 작동했다면 파국적 피해를 낳을 수 있었다며 감속 제안의 결정적 계기로 꼽았다. 해법으로는 공동 안전기준과 외부 검증이 거론된다. 오픈AI는 충분한 안전장치를 확보할 수 없는 시스템의 개발·배포를 늦추거나 중단할 수 있다고 밝혔다. 앤스로픽도 업계가 출시 속도를 함께 결정할 합법적이고 검증 가능한 협력을 요구했다.

실행은 쉽지 않다. 오픈AI와 앤스로픽의 기업공개(IPO) 추진, 중국과의 기술 경쟁, 기업 간 공동 감속에 따른 반독점 규제 우려가 얽혀 있다. 도널드 트럼프 미국 대통령도 AI에 따른 인류 멸종은 우려하지 않는다며 경쟁에서 이기는 것이 중요하다고 강조했다. 버락 오바마 전 미국 대통령도 AI를 제대로 관리하지 않으면 위험해질 수 있다고 경고하며 민주당에 AI 정책을 핵심 의제로 다룰 것을 주문한 것으로 전해졌다.

(왼쪽부터) 일론 머스크 xAI 최고경영자(CEO), 다리오 아모데이 앤스로픽 CEO, 샘 올트먼 오픈AI CEO. (사진=AFP)