트럼프 vs 유엔, AI 안전장치 놓고 정면충돌

[뉴욕=이데일리 성주원 특파원] 인공지능(AI)의 안전 규칙을 누가, 어떻게 정할지를 둘러싼 논쟁이 제81차 유엔총회의 주요 의제로 떠올랐다. 안토니우 구테흐스 유엔 사무총장은 AI 강국들의 공동 안전장치 마련을 촉구했지만 도널드 트럼프 미국 대통령은 국제적인 통제체제에 반대했다. 총회 기간 뉴욕에서 열린 행사에서는 기업의 책임과 정부 규제, 일자리 대체에 따른 과세 문제까지 논의를 넓혔다.

[이데일리 김정훈 기자]

구테흐스 사무총장은 22일(현지시간) 유엔총회 일반토의 개막 연설에서 “위험한 것은 기술이 아니라 책임 없는 기술이다”며 “AI 발전 속도를 인간의 통제 능력이 따라가지 못한다”고 경고했다. 여러 나라가 참여하는 위험 관리체계와 독립적인 감독을 주문하고, 생사를 결정하는 판단을 기계에 맡기는 ‘킬러로봇’ 금지도 촉구했다.

그는 총회를 앞두고 AI 선도국들이 위험 정보를 공유하고 공동으로 시험·평가해야 한다고 강조해왔다. 그는 “AI는 국경에서 멈추지 않으며 위험 역시 마찬가지다”고 주장했다.

뒤이어 연단에 오른 트럼프 대통령은 “미국은 AI를 통제하려는 어떤 글로벌리스트 체제 구축 시도도 전적으로 거부한다”고 말했다. AI 대신 ‘초지능’이라는 용어를 사용하겠다며 미국이 이 분야를 계속 주도하겠다고 했다. 다만 그는 “안전하고 책임 있게 개발하겠다”고 언급했다. 기업과 규제 당국은 구체적인 책임과 안전장치를 강조했다. 브래드 스미스 마이크로소프트(MS) 부회장 겸 사장은 전날 아시아소사이어티 대담에서 AI 안전을 업계의 최우선 과제로 꼽았다. 위험하다고 판단한다면 기업 스스로 개발 속도를 늦춰야 한다는 것이다.

그는 AI 에이전트(목표에 따라 작업을 계획하고 실행하는 시스템)가 통제를 벗어나면 즉시 작동을 멈추는 ‘비상 브레이크’가 필요하다고 말했다. 기업의 자율규제와 산업표준에 법률·정부 규제를 결합해야 한다고도 강조했다. 미국과 중국에는 검증이 필요한 첨단 AI의 범위와 시험 기준부터 공통의 이해를 마련하자고 제안했다.

롭 본타 캘리포니아주 법무장관도 콘코디아 연례 서밋에서 “혁신이 책임을 앞지르도록 내버려둬서는 안 된다”고 말했다. 그는 “기존 형사·민사·소비자보호법 등도 AI에 적용한다”며 개발자의 책임과 개인정보·지식재산권 보호를 강조했다. 연방정부가 최소 기준을 정하더라도 주 정부가 더 강한 규제를 시행할 수 있어야 한다고 주장했다.

일자리를 대체하는 AI에 세금을 매길지도 쟁점으로 떠올랐다. 로 카나 민주당 하원의원은 아시아소사이어티 대담에서 “자율형 AI나 로봇에 세금을 부과해야 한다”고 말했다. 기업이 사람을 고용하면 급여세와 건강보험료 등을 부담하지만 AI를 쓰면 사용료를 내는 만큼, 세금 부담의 차이가 노동 대체를 유도할 수 있다는 주장이다.

스미스 부회장도 급여세가 인간 노동의 비용을 높인다고 지적했다. 급여세를 AI 사용량에 매기는 이른바 ‘토큰세’로 대체하는 방안에 그는 “역할이 있을 수 있다”고 말했다. 다만 현 시점에서 서두르지는 않겠다며 당장 과세할 단계는 아니라고 봤다. 두 사람 모두 노동과 AI에 적용하는 세금 구조를 문제 삼았지만 도입 시점에서는 견해가 갈렸다.