구글, AI 검색 ‘오버뷰’ 오류로 사용 축소... 전문가들 “AI 신뢰성 문제”

[이데일리 김현아 기자]구글의 AI 검색 신기능 ‘오버뷰(Overview)’가 황당한 답변을 내놓은 후, 구글이 이를 수동으로 제거하고 일부 검색 결과에서 AI 답변 사용을 줄이고 있는 것으로 나타났다.

30일(현지시간) 워싱턴포스트는 구글의 검색 책임자인 리즈 레이드의 블로그를 인용해 구글이 AI 검색 서비스 ‘AI 오버뷰’의 적용을 축소하고 있다고 보도했다.

구글은 2주 전부터 미국 대부분의 사용자의 검색 결과 상단에 AI 생성 답변을 배치하기 시작했으나, 피자에 접착제를 바르라고 하거나 버락 오바마가 무슬림이라고 하는 등 여러 주목할 만한 오류가 발생했다. 이러한 오류 이후 목요일부터 AI 답변을 유발하는 쿼리가 크게 줄어든 것으로 나타났다.

리즈 레이드 구글 검색 책임자는 지난 목요일 오후 블로그 게시물을 통해 회사가 ‘AI 오버뷰’라고 부르는 AI 답변 중 일부를 축소하고 있음을 확인했다.

리즈 레이드 구글 검색 담당 부사장이 ‘AI 오버뷰’를 소개하고 있다./AP 연합뉴스

◇건강 관련 주제 답변 중단

그는 “AI 오버뷰가 그다지 도움이 되지 않는다는 것이 입증된 질문에 대해 트리거링 제한을 추가했다”고 밝혔다. 이어 “건강 관련 주제에 대한 답변을 중단하고, 소셜 미디어 게시물을 AI 답변의 소스로 사용하는 것을 줄였다”고 덧붙였다.

레이드는 구글이 시스템 개선을 목표로 12가지 이상의 기술적 변화를 주었다고 전했다. 여기에는 △AI 오버뷰를 표시해서는 안 되는 무의미한 쿼리에 대한 더 나은 탐지 메커니즘 구축 △오해의 소지가 있는 조언을 제공할 수 있는 응답에서 사용자 생성 콘텐츠의 사용 제한 △AI 오버뷰가 도움이 되지 않는 것으로 입증된 쿼리에 대한 제한 등이 포함된다.

또한 레이드는 “피드백과 외부 보고서를 모니터링하고 콘텐츠 정책을 위반하는 소수의 AI 오버뷰에 대해 조치를 취했다”면서도 “구글의 엄격한 가드레일 정책으로 인해 유해하거나 외설적인 쿼리는 700만 개 중 1개 미만 밖에 발견되지 않았다”고 전했다.

그는 이번 사태가 일부 사용자의 무의미하거나 악의적인 의도에서 비롯되었다고 우회적으로 지적했다.

예를 들어, ‘얼마나 많은 돌을 먹어야 하는가’라는 질문을 한 사례를 들었다. 레이드는 “스크린샷이 입소문을 타기 전에는 그런 질문을 한 사람이 거의 없었다”며, 구글 트렌드에서 이를 직접 확인할 수 있다고 말했다. 그는 “이런 질문은 웹 콘텐츠 자체에 관련 정보가 거의 없는 ‘데이터 공백’에 해당하며, 풍자적인 내용이 포함되어 있다”고 해명했다.

또한, 그는 “수백만 명의 사람들이 이 기능을 사용하는 것만큼 좋은 것은 없다”며, 대규모 출시를 통해 예상치 못한 많은 상황이 드러났다고 부연했다.

구글은 지난 2월에도 보수적인 논평가들이 반백인 편견이라고 비난한 후, 사용자들이 AI 이미지 도구를 통해 사람의 이미지를 생성하는 것을 차단한 바 있다.

이번 사례는 구글이 AI 기술의 신뢰성을 높이는 데 큰 과제를 안고 있음을 보여준다. IT 전문가들은 AI의 신뢰성과 정확성을 개선하는 것이 매우 중요하다고 강조하고 있다.

◇구글 AI 검색 답변 ‘오버뷰’가 뭔데?

이 기술은 AI가 구글 검색 결과에 표시될 웹사이트를 읽은 후 여러 단락으로 요약해 답변하는 방식으로 작동한다.

언론인, 검색 엔진 전문가, 소셜 미디어 사용자들은 AI 답변에서 발생하는 문제를 빠르게 발견했다. 일부 답변은 재미있었지만, 특히 건강 관련 질문에 대한 답변에서 많은 문제가 발생해 우려를 불러일으켰다.

구글은 이러한 문제를 수정하기 위해 노력 중이다. 예를 들어, 사용자들에게 신장 결석 배출을 돕기 위해 소변을 많이 마시라고 하거나, 존 F. 케네디가 위스콘신 대학교 매디슨 캠퍼스를 6년 만에 졸업했으며 그중 3년은 사망 후 졸업했다고 잘못 답변한 오류들을 수정했다.

일부 게시자들은 구글이 콘텐츠를 가져와 검색 결과에서 직접 사용자에게 제공함으로써 중요한 웹 트래픽을 빼앗고 있다고 비판하고 있다.