이노션, ‘편향성 개선’ AI 학습데이터 제작 나선다

[이데일리 김정유 기자] 이노션(214320) 미국법인은 글로벌 스톡 이미지 제공사 POC스톡과 함께 고품질 이미지 콘텐츠를 인공지능(AI) 학습데이터에 반영하는 ‘미래를 직시하기’ 프로젝트를 진행했다고 8일 밝혔다.

사진=이노션

이번 프로젝트는 AI가 인간의 편견을 단순 반영하는 수준을 넘어 증폭시키고 있다는 문제의식에서 출발했다. 예컨대 미국내 치과의사의 약 22%가 아시아계임에도 불구하고 AI가 생성하는 치과의사 이미지는 아시아계가 2.3%에 불과한 것으로 나타났다.

이노션은 이 같은 편향성을 바로잡기 위해 다양한 인종, 연령, 성별, 성적 지향을 대표하는 인물들을 촬영하고 AI 학습용으로 최적화된 콘텐츠를 대규모로 제작했다.

제이슨 스펄링 이노션 미국법인 최고 크리에이티브 책임자(CCO)는 “AI 트레이닝은 보다 큰 산업적 차원으로 확장해야 진정한 변화를 이룰 수 있다고 판단했다”며 “수십 개 파트너사가 각기 하나의 편향 주제를 맡아 함께 힘을 모은다면, 의미 있는 변화를 만들어낼 수 있다”고 강조했다.

실제 이번 프로젝트에는 이노션 미국법인 주도로 16명의 사진작가와 22개 글로벌 에이전시 및 프로덕션 파트너사가 참여했다. 이들은 구글, 어도비, 셔터스톡, 마이크로소프트, 캔바, 아마존, 오픈AI 등 주요 글로벌 플랫폼에 AI 학습 목적으로 제공될 10만여건 이상의 콘텐츠를 새롭게 제작했다.

이노션은 단순 이미지 제작에 그치지 않고 포용적 AI 개발을 위한 가이드북도 발간할 계획이다.

이용우 이노션 대표는 “이번 프로젝트는 AI가 인간 다양성을 보다 정확히 반영할 수 있도록 하는 ‘포용적 AI의 표준’을 제시했다는 점에서 의미가 크다”며 “앞으로도 이노션은 다양한 산업 파트너들과 함께 AI 편향성 문제를 해결하기 위한 글로벌 노력을 지속해 나갈 계획”이라고 말했다.