헉슬리의 인터뷰를 보고, 추천 알고리즘의 목표를 다시 생각했어요

올더스 헉슬리가 존 모건과 대화하는 1961년 BBC 인터뷰 영상을 봤어요. 기술이 발전하는 방향과 사람이 원하는 삶이 어긋날 수 있다는 이야기가 오래 남았습니다. 데이터를 다루는 일을 하는 제게는, 효율이 높아졌다는 이유만으로 어떤 기술을 좋다고 평가해도 되는지 돌아보게 하는 대화였어요.

제가 영상을 보며 떠올린 것은 추천 알고리즘이었어요. 다음에 볼 영상이나 읽을 글을 고르는 데 도움을 받지만, 때로는 처음 찾으려던 것과 다른 콘텐츠를 계속 보게 되기도 하죠. 서비스가 좋은 성과로 세는 행동이 사용자에게도 좋은 경험인지는 따로 생각해 볼 문제예요.

헉슬리의 경고를 오늘의 기술과 연결해서 읽기

BBC 편성 기록에 따르면 이 인터뷰는 1961년 7월 30일 방송됐어요. 헉슬리는 당시 사회와 기술, 유토피아에 관한 생각을 이야기합니다.

헉슬리가 우려한 것은 기술을 만든 목적과 그 기술이 사회에서 확장되는 방향이 반드시 일치하지는 않는다는 점이에요. 편리하다는 이유로 받아들인 방식이 나중에는 사람이 생활을 맞춰야 하는 조건이 될 수 있다는 것이죠. 저는 오늘날 서비스가 선택지를 배열하고 다음 행동을 권하는 방식을 이 관점에서 보게 됐어요.

자크 엘룰의 《기술 사회》도 함께 생각해 볼 만해요. 엘룰은 효율을 높이는 기술과 조직 방식이 사회의 여러 영역으로 퍼지면서 다른 가치를 밀어낼 수 있다고 분석했어요. 여기서 기술은 기계 한 대만을 가리키는 말보다 넓은 의미로 쓰입니다.

이런 논의를 추천 시스템과 연결하는 것은 오늘의 독자인 제 해석이에요. 헉슬리가 강화학습이나 소셜미디어의 구체적인 설계를 미리 설명한 것은 아니니까요. 그의 우려가 지금도 생각할 거리를 준다는 점과, 오늘의 기술이 실제로 어떻게 작동하는지는 구분해서 보려고 합니다.

추천 시스템은 무엇을 좋은 결과로 판단할까요

추천 시스템은 사용 기록 같은 정보를 바탕으로, 관심을 가질 만한 콘텐츠의 순서를 정해요. 이때 무엇을 예측하고 평가할지는 서비스가 정합니다.

예를 들어 유튜브는 2021년 공식 설명에서 클릭과 시청 시간뿐 아니라 만족도 설문, 공유, 좋아요와 싫어요 등을 추천에 활용한다고 밝혔어요. 시청 시간이 길다는 이유만으로 그 시간이 사용자에게 가치 있었다고 볼 수 없어 설문도 사용한다는 설명이에요. 뉴스나 정보 분야에서는 콘텐츠의 품질과 신뢰도도 고려한다고 했고요.

따라서 모든 추천 알고리즘이 오직 체류 시간만 늘리도록 설계됐다고 말하면 실제 구조를 지나치게 단순화하게 돼요. 그렇지만 무엇을 좋은 결과로 측정할지의 문제는 여전히 남아요. 클릭, 오래 보기, 높은 만족도는 각각 사용 경험의 일부를 보여줄 뿐이니까요.

여기서 제가 중요하게 보는 것은 서비스의 목표와 사용자의 목적을 함께 확인하는 일이에요. 필요한 강의를 찾아 오래 시청한 경우와, 멈추고 싶었는데 다음 영상이 궁금해서 계속 본 경우는 사용 시간이 같아도 다르게 평가할 수 있겠죠. 이런 차이를 충분히 구분하지 못하면 지표는 좋아져도 사용자가 원한 결과에서는 멀어질 수 있어요.