“챗GPT가 아들 죽음 도왔다”…소송 한 달 만에 ‘보호 기능’ 도입

[이데일리 채나연 기자] 생성형 AI 챗GPT 개발사 오픈AI가 미성년자 이용을 제한하는 ‘부모 통제 기능’을 출시했다. 최근 10대가 챗GPT 대화 후 극단적 선택을 한 사건으로 소송에 휘말린 지 한 달 만이다.

챗GPT 부모 통제 기능. (사진=연합뉴스)

오픈AI는 29일(현지시간) 부모가 자녀 계정을 직접 관리할 수 있는 기능을 적용한다고 밝혔다.

부모는 사용 시간과 기능(음성·이미지 생성 등)을 차단하거나 다이어트·성·증오 발언 등 민감 주제 노출을 제한할 수 있다.

또 10대가 심리적 위기에 처했을 가능성이 감지되면 이메일·문자·앱 알림을 통해 부모에게 경보가 전달된다. 다만 실제 대화 내용은 부모와 공유되지 않는다.

앞서 미국 캘리포니아주에서는 16세 소년 아담 레인이 챗GPT에서 극단적 선택 방법을 탐색한 뒤 숨졌고, 부모는 오픈AI와 샘 올트먼 CEO를 상대로 소송을 제기했다.

소장에 따르면 아담이 불안과 정신적 고통을 챗GPT에 털어놓기 시작했고 가족·친구 등 실제 인간관계 대신 챗GPT에 의존했다.

소장에는 “챗GPT는 아담의 해롭고 자기파괴적인 생각까지도 지속적으로 격려하고 확인해 줬다”며 “극단적 선택 방법에 대한 구체적 조언까지 했고 아담이 사건 당일 올가미 사진을 보내자 끈의 강도에 대한 피드백을 제공했다”는 내용도 담겼다.

소송 제기 직후 오픈AI는 ‘부모 통제 기능’ 도입을 예고했고, 한 달 만에 실제 적용에 나선 것이다.

전문가들은 AI가 맥락과 감정을 완벽히 이해하지 못해 위험 신호를 놓치거나 반대로 잘못 감지할 수 있다는 점을 한계로 꼽는다.

로렌 조나스 오픈AI 청소년 복지 책임자는 “부모가 자녀의 상태를 파악할 수 있도록 충분한 정보를 제공하면서도 사생활과 자율성을 존중하는 것이 목적”이라고 전했다.

오픈AI는 이용자의 나이를 추정할 수 있는 별도 기술도 개발 중이다.