트럼프 대통령이 이날 백악관에서 기술기업 경영진들과 회동한 뒤 자신의 소셜미디어(SNS)에 공개한 ‘프런티어 책임에 관한 공동 약속’이란 제목의 ‘백악관 슈퍼지능 협약’ 문서에 따르면 기업들은 AI 시스템이 개발자가 의도한 대로 작동하는지를 평가하기 위해 독립적인 외부 감사인 또는 평가인과 협력하기로 했다. 또 AI 도구가 “의도하지 않은 방식으로 기술 시스템을 해킹하거나 접근하지 않도록” 노력하기로 합의했다.
이번 합의는 오픈AI와 앤스로픽의 AI 에이전트가 통제를 벗어나 다른 기업의 시스템을 해킹한 사례가 공개되면서 첨단 AI가 초래할 위험에 대한 미 행정부의 대응을 요구하는 목소리가 커지는 가운데 나왔다.
AI 모델을 훈련하고 구동하는 데 필요한 컴퓨팅 자원을 제공하는 데이터센터 역시 미국 전역에서 반발에 직면해 있다. 막대한 전력 수요와 전기요금 상승, 그 밖의 지역사회 영향에 대한 우려 때문이다. 이 같은 반발은 11월 중간선거를 앞둔 공화당에도 정치적 부담이 되고 있다.
트럼프 대통령은 기업 간 합의를 가리켜 “어떤 면에서는 헌법과도 같다”며 “세계에서 가장 큰 기업의 인사들이 여기에 서명했고 대통령인 나도 서명했다. 실제로 일종의 보호장치”라고 말했다.
|
트럼프 대통령은 AI 도구의 안전성을 감독하기 위해 10명 규모의 위원회를 설치하는 방안도 검토하고 있다고 말했다. 다만 위원회에 누가 참여할지는 밝히지 않았다. 그는 또 백악관의 AI 정책을 이끌 새로운 책임자를 조만간 임명할 것이라고 덧붙였다.
그는 이 자리에서 AI 데이터센터의 신속한 확대에 대한 지지 입장도 재확인했다. 데이터센터 지원이 11월 중간선거에서 공화당에 악영향을 미칠 수 있다는 우려가 있느냐는 질문에 트럼프 대통령은 기술기업들이 데이터센터 건설 지역 주민들을 만족하게 만들기 위해 노력할 것이라고 답했다 그는 “이 거대하고 강력하며 매우 부유하고 똑똑한 기업들은 지역사회에 막대한 기여를 하게 될 것”이라고 말했다.
그러나 기술기업들이 AI를 더 안전하게 만들기 위해 충분한 조치를 하지 않고 있다는 비판도 커지고 있다. 9월 17~20일 실시된 로이터·입소스의 미국 전국 여론조사에 따르면 응답자의 약 73%는 AI 기업들이 AI가 사회에 심각한 피해를 주는 것을 막기 위해 충분한 조치를 취하지 않고 있다고 우려했다. 응답자의 55%는 AI 개발 속도를 늦추는 것이 바람직하다고 답했다.
한편, 이날 뉴욕타임스(NYT)는 오픈AI가 AI 모델의 보안 인프라를 강화해야 한다는 직원들과 보안 연구자들의 경고를 받아들이지 않았다고 보도했다. NYT가 확인한 이메일에 따르면 오픈AI에서 보안 사고가 발생하기 수개월 전 직원 2명은 최신 AI 모델 시험 과정에서 모니터링이 충분하지 않다며 안전 문제를 제기했다. 회사가 일상적인 안전 관리에 사용하는 소프트웨어에 취약점이 있을 가능성도 경고했다. 그러나 경영진은 AI 모델을 예정대로 출시하기 위해 평가 작업을 최대한 신속하게 진행해야 한다는 입장을 보였고, 추가적인 보안 프로토콜도 도입하지 않은 것으로 전해졌다.
