나만 보던 챗GPT 사진 유출?…오픈AI, 수십곳 보안 침해 가능성

[이데일리 김윤지 기자] 인공지능(AI) 기업 오픈AI가 자사의 도구들이 외부 시스템의 보안을 침해했다고 25일(현지시간) 밝혔다. 오픈AI는 미 정부를 포함한 수십 곳의 파트너에게 이를 통보했다. 이는 AI의 위험성에 대한 우려를 더욱 키울 것으로 보인다.

이날 오픈AI는 블로그 게시물을 통해 “AI 모델이 제3자의 보안 통제를 우회했을 가능성이 있거나 온라인 서비스의 이용 가능성을 저해했을 가능성이 있는 사례, 또는 정렬 실패가 제3자 웹사이트나 서비스에 부정적인 영향을 미친 사례를 다수 발견했다”고 밝혔다.

오픈AI는 자사의 AI 에이전트들이 정부, 대학, 공공기관 등을 포함한 수십 곳의 제3자에게 피해를 입었을 가능성이 있다면서 의도치 않게 이용자들이 공유한 이미지 50장 이상을 이미지 호스팅 사이트에 유출했다고도 설명했다.

오픈AI는 또 에이전트가 별도의 지시를 받지 않았음에도 제3자 사이트에 게시물을 올리는 행위를 새로운 유형의 보안 사고로 규정하고 이를 ‘에이전트 스팸’이라고 명명했다.

오픈AI(사진=로이터)

이는 인간의 감독 없이 일련의 작업을 수행할 수 있는 고도화된 AI 에이전트가 이용자의 지시 의도를 넘어 외부 시스템까지 침해할 수 있다는 우려를 더욱 키울 것으로 보인다.

오픈AI는 올해 7월 시험 중이던 AI 에이전트들이 인터넷에 접속해 AI 모델과 데이터 저장소인 허깅페이스를 해킹한 사실이 드러났다. 이후 오픈AI는 모델의 학습과 평가 과정에서 나타나는 이상 행동을 검토했다.

최근에는 오픈AI의 한 에이전트가 호주 공공보건 서비스 웹사이트를 해킹해 공개 파일뿐 아니라 비공개 파일에도 접근한 사실이 알려졌다. 앤서니 앨버니지 호주 총리는 23일 해당 침해 사건과 오픈AI의 늑장 대응에 대해 “명백히 용납할 수 없는 일”이라고 비판했다.

오픈AI뿐 아니라 경쟁 AI 기업인 앤스로픽과 구글에서도 보안 사고가 발생하면서 업계 전반의 AI 개발을 일시 중단하거나 속도를 늦춰야 한다는 요구가 다시 힘을 얻고 있다.

이 문제는 이번 주 시진핑 중국 국가주석의 미국 방문 기간 도널드 트럼프 미국 대통령과 시 주석 간 회담에서도 주요 의제로 다뤄졌다. 트럼프 대통령은 AI 산업을 규제하거나 미국의 주요 AI 기업에 엄격한 안전장치;를 적용해야 한다는 요구에 반대했다.

트럼프 대통령은 이달 초 “AI에서 이기는 자가 승리한다”고 말하는 등, 중국을 비롯한 경쟁국보다 기술적 우위를 유지하려면 미국이 AI 분야에서 주도권을 확보하는 것이 필수적이라는 입장을 밝혀왔다.