“성인만, 성인답게”... 챗GPT, 12월부터 ‘성적 대화 허용 AI’ 된다

[이데일리 김현아 기자]오픈AI가 오는 12월부터 성인 이용자를 대상으로 성적인 대화와 콘텐츠 생성을 공식 허용하겠다고 밝혀, 인공지능(AI) 챗봇 역사상 사실상 세계 최초의 ‘성적 대화 허용 AI’가 탄생하게 됐다.

AI 규제 강화 기조 속에서 오픈AI가 이 같은 방침을 내놓으면서, 윤리 논란과 법적 책임 문제를 둘러싼 파장이 커질 전망이다.

사진=로이터

올트먼 “성인 이용자는 성인답게 대하겠다”

샘 올트먼 오픈AI 최고경영자(CEO)는 14일(현지 시각)X(옛 트위터)를 통해 “12월부터 연령 인증 기능을 완전히 도입해 성인 이용자에게는 성애적 콘텐츠(erotica)도 허용하겠다”고 밝혔다.

그는 “정신건강 문제를 고려해 챗GPT의 표현을 지나치게 제한해왔지만, 정신적 제약이 없는 이용자들에게는 챗봇이 덜 유용하고 재미없게 느껴졌다는 점을 깨달았다”며, “성인 인증 이용자는 보다 자연스럽고 인간적인 대화 경험을 할 수 있을 것”이라고 설명했다.

이번 조치는 챗GPT의 차세대 버전 출시와 함께 적용될 예정이며, 올트먼은 “GPT-4o의 인간적 특성을 반영한 새로운 버전이 될 것”이라고 덧붙였다.

구글·메타는 여전히 ‘엄격 금지’…AI 윤리 기준 충돌

오픈AI의 행보는 구글·메타 등 경쟁 빅테크 기업들의 정책과 정면으로 배치된다.

구글은 생성형 AI 이용 정책에서 “성적으로 노골적(pornographic) 콘텐츠의 생성”을 명시적으로 금지하고 있으며, AI를 이용한 성적 대화나 이미지 생성은 허용하지 않는다.

메타(Meta)는 내부 문건을 통해 한때 “로맨틱·센슈얼 대화 허용” 방안을 검토했지만, 윤리 논란이 불거지자 이를 중단한 바 있다.

레플리카(Replika) 역시 과거 성적 대화 기능을 제공하다가 각국 개인정보보호당국의 제재를 받으며 기능을 삭제했다.

이에 따라, 오픈AI는 주요 글로벌 기업 중 처음으로 공인된 성인 인증 절차를 기반으로 성적 대화를 허용하는 사례가 될 전망이다.

오픈AI의 샘 올트먼 최고경영자(CEO)가 최태원 SK그룹 회장과 오찬 회동을 위해 10월 1일 서울 종로구 SK서린빌딩에 들어서고 있다. (사진=연합뉴스)

“유료 구독 유인 효과 있지만, 사회적 논란 불가피”

미국 매체 악시오스(Axios)는 “AI의 표현 수위 제한을 완화하려는 이번 조치가 유료 구독자 확대에는 도움이 되겠다”고 평가했지만, 사회적 문제와 규제 리스크를 높일 수 있다”고 평가했다.

특히 성적 대화가 감정 의존이나 현실 왜곡, AI 윤리 기준 훼손으로 이어질 수 있다는 우려도 있다.

한국은 ‘딥페이크 금지’ 등 강력 규제 유지

한국은 세계적으로 가장 엄격한 성적 AI 콘텐츠 규제 국가 중 하나다.

성폭력특례법에서 딥페이크 성적 이미지·영상의 소지나 시청 자체가 처벌 대상이며, AI 성적 콘텐츠 제작·유포는 형사 범죄로 규정돼 있다.

또한 정부는 AI 윤리·안전 확보를 위한 ‘AI 기본법’을 내년 1월 22일 시행한다. 때문에 한국 내에서는 단순한 텍스트 기반의 성적 대화조차 법적 위험이 존재할 수 있으며, 관련 사업의 국내 도입은 신중할 수 밖에 없다는 전망도 나온다.

AI 챗봇이 단순 도구를 넘어 ‘관계의 주체’로 인식되는 시점에서, 세계 각국은 이제 ‘AI 표현의 자유’와 ‘사회적 안전’ 사이의 균형점을 다시 찾아야 하는 과제를 안게 됐다.