스스로 진화하는 AI 나오나…GPT-6 아스트라에 ‘통제불능’ 경고

[이데일리 김유성 기자] 오픈AI가 최신 인공지능(AI) 모델 ‘GPT-6 아스트라’를 내놓으면서 인류가 통제하기 어려운 AI의 문턱에 가까워졌다는 경고가 나오고 있다. 단순히 인간보다 더 많은 일을 잘하는 수준을 넘어 AI가 스스로 성능을 개선하고, 그 판단 과정을 인간이 들여다보기 어려워지는 단계에 접근하고 있다는 것이다.

챗GPT 생성 이미지

영국 가디언은 5일(현지시간) GPT-6 아스트라 출시를 계기로 AI 안전성 논쟁이 다시 거세지고 있다고 보도했다. 오픈AI는 아스트라가 사실상 범용인공지능(AGI)의 문턱을 넘어섰다고 주장한다. 오픈AI가 정의하는 AGI는 ‘경제적으로 가치 있는 대부분의 업무에서 인간보다 뛰어난 자율 시스템’이다.

오픈AI에 따르면 아스트라는 회로기판 설계부터 세금 신고, 비디오게임 제작, 금융 모델링, 엔지니어링 설계, 법률 문서 작성 등을 자동화할 수 있다. AI가 반복 업무뿐 아니라 전문직이 담당해온 복잡한 지식노동까지 대신할 수 있다는 의미다. 화이트칼라 일자리에도 적지 않은 영향을 미칠 것으로 전망된다.

문제는 AI 능력이 빠르게 커질수록 인간의 통제가 어려워질 수 있다는 점이다. 로버트 트레이거 옥스퍼드마틴 AI거버넌스이니셔티브 소장은 “AI 시스템이 스스로를 개선하는 ‘재귀적 자기개선’의 선을 넘기 직전일 가능성이 있다”고 경고했다. AI가 자신의 능력을 활용해 더 뛰어난 AI를 만들고 이 과정이 반복될 경우 급격한 성능 폭발로 이어질 수 있다는 우려다.

아스트라의 사이버 공격 능력도 논란거리다. 오픈AI는 자체 평가에서 아스트라의 사이버보안 능력을 처음으로 ‘Critical(심각)’ 단계로 분류했다. 오픈AI의 분류상 단독 행위자가 군사·산업 시스템이나 오픈AI 인프라를 공격해 심각한 피해를 일으킬 수 있는 수준의 능력을 의미한다. 오픈AI는 안전장치를 통해 모델이 이런 행동을 하지 못하도록 통제하고 있다는 입장이다.

더 큰 문제는 AI가 무슨 생각을 하는지 파악하기도 어려워지고 있다는 점이다. 오픈AI는 아스트라가 이전 모델보다 ‘사고 과정(chain of thought)’을 인간이 관찰할 수 있는 정도가 크게 낮아졌다고 인정했다. AI의 내부 계산이 자연어 형태로 드러나지 않으면서 인간 감독자가 모델의 의도와 판단을 추적하기 어려워질 수 있다는 것이다.

샘 올트먼 오픈AI 최고경영자(CEO)도 위험성을 인정했다. 그는 최근 AI 발전을 두고 기대와 불안이 공존하고 있다며 사이버보안 분야에서 대응을 서두르지 않으면 “매우 잘못되는 일들이 생길 것”이라고 경고했다. 다만 AI를 실제 사회에 적용하고 그 결과를 확인하면서 기술과 사회가 함께 적응하는 과정이 필요하다는 입장을 유지했다.