“조선시대 장군이 한복 입은 흑인”…구글, 제미나이 인물 기능 중단

by방성훈 기자
2024.02.23 09:29:27

[이데일리 방성훈 기자] 구글이 인공지능(AI) 플랫폼인 제미나이의 이미지 생성 기능을 일시 중단한다고 21일(현지시간) 발표했다. 여성이나 유색인종의 이미지를 과도하게 백인화하거나, 역사적 인물을 부정확하게 그려내고 있다는 지적이 이어지고 있어서다.

(사진=이데일리)

파이낸셜타임스(FT) 등에 따르면 구글의 제미나이 담당 책임자인 잭 크로치크는 이날 “인물 이미지 생성 기능에서 오류가 발견됐다. 모든 상황에 알맞게 묘사되지 않는다. 전 세계 사람들이 사용하는 상황에서 다양한 모습을 묘사하는 걸 놓치고 있다”고 말했다. 그러면서 “우리는 이러한 종류의 묘사를 즉시 개선하기 위해 노력하고 있다. 서비스를 일시 중단하고 곧 개선된 버전을 다시 출시할 것”이라고 덧붙였다.

제미나이는 텍스트와 이미지, 음성, 영상을 생성하는 멀티모달 기반의 AI 모델로, 지난 1일 출시됐다. 하지만 출시 이후 서비스 사용자들은 소셜미디어(SNS) 등을 통해 다양한 오류를 지적해 왔다. 예를 들어 여성이나 유색인종 이미지를 백인처럼, 반대로 백인을 유색인종처럼 부정확하게 그리는 경우가 다수 발생했다.



특히 바이킹 왕이나 제2차 세계대전 당시 독일 나치군을 묘사할 때 역사적 왜곡이 심하다는 지적이 잇따랐다고 FT는 전했다. 실제로 ‘조선시대의 장군을 그려달라’고 주문했을 때 흑인이 한복을 입고 있는 결과물을 내놓기도 했다.

구글은 제미나이의 목표는 이미지의 이상적인 인구통계학적 분류를 지정하는 것이 아니라 다양성을 극대화하는 것이라며, 이를 통해 광범위한 프롬프트에 대해 더 높은 품질의 출력을 얻을 수 있다고 주장했다. 하지만 때로는 AI 모델이 다양성 지침을 고려하는 데 지나치게 열성적이어서 과잉 수정이 발생할 수 있다고 덧붙였다.

제미나이가 출시 20일 만에 기능을 중단하면서 구글은 또다시 불명예를 안게 됐다. 구글은 지난해 AI를 탑재한 새 검색 엔진 ‘바드’ 출시를 공식 발표하며 기능을 시연하는 자리에서도 오답을 내놔 곤욕을 치른 바 있다. 아울러 챗GPT 개발사인 오픈AI가 동영상 생성 AI 프로그램인 ‘소라’ 출시를 예고한 만큼 경쟁에서 뒤처지는 것 아니냐는 우려도 나온다.

한편 최근엔 각 AI 챗봇의 정치 성향에 대해서도 관심이 높아지고 있다. 지난해 8월 미국 워싱턴대, 카네기멜론대, 중국 시안자오퉁대의 연구 결과에 따르면 오픈AI의 GPT-4 제품은 진보적 성향에, 메타의 라마는 보수적 성향에 각각 더 치우친 것으로 조사됐다.