|
영국 출신인 콕슨은 대규모 데이터를 이용해 새로운 AI 모델을 학습시키는 분야를 연구해 왔다. 그는 올해 초 오픈AI를 떠나 AI 안전을 중시하는 기업 문화로 알려진 앤트로픽에 합류했으나, 개별 기업의 노력만으로는 AI의 위험을 통제할 수 없다는 결론을 내리고 사표를 던졌다.
콕슨은 퇴사 직후 자신의 사회관계망서비스(SNS)를 통해 “오픈AI와 앤트로픽 모두 책임감 있게 행동하지 않고 있다”며 “기업들이 스스로 성능을 개선하는 AI 개발 경쟁에 매달리며 우리 모두의 목숨을 걸고 도박을 하고 있다”고 비판했다.
그는 AI 업체들이 인간의 개입 없이 스스로 성능을 개선하는 시스템을 경쟁적으로 개발하면서 안전 문제가 뒷전으로 밀렸다고 비판했다. 특히 AI가 고도화될 경우 인간의 통제를 벗어나 명령을 거부하는 수준까지 발전할 수 있다고 지적했다.
콕슨은 WSJ와의 인터뷰에서 “가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다”며 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”고 경고했다.
인류의 미래를 좌우할 AI 개발이 소수 엔지니어에게 맡겨진 현실에 대해서도 날을 세웠다. 그는 “인류의 운명이 샌프란시스코 엔지니어 몇 명의 노트북과 사내 메신저에서 결정되는 것은 일종의 광기”라며 “인간의 능력을 능가하는 범용인공지능(AGI)을 책임 있게 개발하기 위해서는 정부의 개입과 업계의 공동 대응이 시급하다”고 강조했다.
앞서 콕슨은 각국 정부에 AI 개발 속도를 조절할 수 있는 국제적인 체계를 마련하라고 촉구하는 성명에도 참여했다. 이 성명에는 앤트로픽의 다리오 아모데이 최고경영자(CEO)와 오픈AI의 야쿠프 파초키 수석과학자 등 연구자 1000여 명이 서명했다.
한편 최근 글로벌 AI 업계는 중국 신생 업체들의 가세로 개발 경쟁이 과열되고 있다. 도널드 트럼프 행정부 역시 AI에 대한 규제를 최소화하는 정책을 추진하고 있다.
