알고리즘은 원하는 결과를 만들어내는 공식이자 몇 가지 규칙을 하나로 묶어 나타내는 방정식을 의미한다. 대다수의 플랫폼 기업이 알고리즘을 활용해 이용자들에게 콘텐츠를 소개하고 있다. 이 같은 현실에 대해 저자는 어느덧 알고리즘이 인간의 지각과 관심을 조종하는 시대가 도래했다며 우려를 표한다.
저자는 플랫폼 기업들이 알고리즘 기반 시스템을 구축하는 동기가 사용 편의가 아닌 이윤 추구에 있다는 점을 지적한다. 플랫폼에서 더 많은 시간을 보내게 만들고, 관심사 데이터를 광고주에게 더 효율적으로 판매하려는 데 목적이 있다는 것이다.
이 가운데 알고리즘은 우리가 답이 무엇인지를 알아내기도 전에 생각하고, 찾고, 바라는 것을 먼저 추측해낸다. 이는 창의적 아이디어나 변덕을 좇지 말고 대세를 충실히 따르라고 압력을 가하는 작업과 같다는 게 저자의 견해다. 알고리즘이 지배하는 세상을 ‘필터월드’라고 명명한 저자는 인류가 점차 편리함에 빠져 자유 의지와 주체성을 잃어버릴 수 있다고 경고한다.
알고리즘은 이제 물리적, 심리적 공간까지 침투하고 있다. 저자는 “인류 역사에서 이렇게 많은 사람이 똑같은 것을 경험한 적은 한 번도 없었다”면서 ‘똑같은 세상’을 찍어내는 알고리즘의 지배로 인한 문화 동일화 현상도 꼬집는다. ‘필터월드’에 맞서 독창성 및 창의성을 유지하려면 자동화된 ‘콘텐츠 고속도로’를 포기하고 스스로 큐레이터가 되어 소비 대상에 대한 책임을 떠안는 자세가 필요하다고 저자는 조언한다.