문체부, AI로 자살유발정보 24시간 모니터링…자살보도 관리도 강화

[이데일리 이윤정 기자] 문화체육관광부가 온라인상 자살 유발 정보를 인공지능(AI)으로 24시간 모니터링하고, 자살보도 관리도 강화한다.

28일 문체부는 이 같은 내용을 담은 ‘미디어·온라인 분야 자살예방 범정부 추진 대책’을 발표하고, 모방 자살을 예방하기 위한 미디어·온라인 환경 개선에 나선다고 밝혔다.

이번 대책은 지난 5월 국무회의에서 논의된 ‘9대 분야별 자살예방 대책’의 하나로 마련됐다. 문체부는 유명인의 자살이 심리적 동조와 자살수단 모방을 부르는 이른바 ‘베르테르 증후군’으로 이어질 수 있는 만큼 자살 사건의 선정적·구체적 보도를 줄이고 온라인상 자살 유발 정보 확산을 차단하는 데 중점을 뒀다. 생명존중희망재단에 접수된 자살 유발 정보 신고는 2023년 30만3636건에서 지난해 40만1229건, 올해 60만3383건으로 증가했다.

문화체육관광부는 28일 '미디어·온라인 분야 자살예방 범정부 추진 대책'을 발표했다(이미지=생성형AI).

정부는 이번 대책을 △생산 △유통 △보호 등 세 축으로 추진한다. 먼저 ‘생산’ 분야에서는 책임 있는 미디어·콘텐츠 제작 체계를 구축한다. 일선 형사과장을 대상으로 언론 대응 지침을 배포하고 교육을 실시해 언론보도 현장 관리를 강화한다. 특히 유명인 자살, 일가족 사망, 청소년 자살 등 모방 위험이 큰 사안은 언론사에 보도 자제를 요청할 방침이다.

또 언론계 자율심의기구와 협력해 자살보도 권고기준 위반 건수를 분기별로 공개하고, 위반이 일정 횟수 이상 누적된 매체는 한국언론진흥재단 지원사업 참여를 제한하는 등 자율심의의 실효성을 높인다. 언론인과 영화·영상 콘텐츠 제작자를 대상으로 자살보도 윤리와 자살예방 교육을 확대하고, ‘영상 콘텐츠 자살 장면 제작 지침’도 제작 현장에 확산한다.

‘유통’ 분야에서는 온라인 플랫폼을 통한 모방 자살 확산을 막는다. 기존 전담 인력과 국민 모니터링단 중심의 감시 체계를 AI를 활용한 24시간 모니터링센터로 전환한다. 정보통신사업자가 자살 유발 정보의 위법성과 조치 사항을 이용자에게 안내하도록 인터넷자율정책기구, 공정거래위원회와 협력해 이용약관도 개정한다.

아울러 방송통신심의위원회의 서면심의 대상을 확대하고, 심의 이전에도 사업자에게 직접 시정을 요구할 수 있는 ‘긴급조치권’ 도입을 추진한다. 악의적이거나 수익을 목적으로 한 자살 유발 정보는 시·도경찰청 사이버수사대가 집중 수사하며, 경찰 조사 과정에서 자살 위험자로 판단되면 자살예방센터와 연계해 보호 조치할 계획이다.

지난 7일부터 시행된 정보통신망법에 따라 자살 등 심각한 정신적 피해를 유발할 우려가 있는 온라인상 혐오·차별 표현도 불법정보에 포함됐으며, 허위조작정보 대응 체계도 강화됐다.

‘보호’ 분야에서는 고위험군 이용자 보호와 생명존중 문화 확산에 나선다. 위기 상황별 대처 방법과 도움 기관 정보를 담은 드라마 형식의 콘텐츠를 제작해 다양한 매체로 제공하고, 청소년 미디어리터러시 교육과 자살예방 교육을 연계해 실시한다.

전 국민을 대상으로 온라인상 자살 유발 정보의 위험성과 불법 유통에 따른 법적 책임을 알리는 디지털 윤리 교육도 추진한다. 종교계와 협력해 생명존중 캠페인과 심리상담, 청소년 교육 등을 확대하고, 방송사와 함께 위기를 극복한 사람들의 이야기와 회복 메시지를 확산할 예정이다.

최휘영 문체부 장관은 “우리 국민, 특히 청소년들이 안전한 온라인 환경에서 성장할 수 있도록 건강하고 책임 있는 미디어·온라인 환경을 만드는 데 관계 부처와 함께 최선을 다하겠다”고 말했다.