공급망을 무너뜨리는 제품이라고, 만든 쪽이 먼저 적었어요

‘역사상 최대의 노동 절도’보다 오래 남을 문장

지난 17일(현지 시각), 뉴욕타임스가 오픈AI와 마이크로소프트를 상대로 낸 저작권 소송에서 봉인돼 있던 문서 일부가 공개됐어요. 기사 제목은 거의 다 같은 문장을 달았어요. 마이크로소프트 응용과학 디렉터 브렌트 헥트가 2023년 1월 내부 메모에 적었다는 표현, “인류 역사상 최대의 노동 절도”예요.

제목이 될 만한 문장이에요. 그런데 저는 같은 사람이 쓴 다른 문장에서 더 오래 멈췄어요. 거대 언어 모델은 자기 공급망을 파괴하는 제품이라는 문장이요. 마이크로소프트 내부 문서에는 이런 취지의 대목도 있었다고 해요. 최종 제품이 핵심 공급자의 경제적 기반을 위협하는 건 아주 드문 일인데, 우리가 LLM 사업에서 바로 그 상황을 만들었다고요.

절도는 윤리의 언어이고, 법정에서 다툴 단어예요. 공급망은 사업의 언어예요. 오늘은 뒤쪽 이야기를 해보려 해요. 회사 안에서 무엇을 알았고, 무엇을 숫자로 확인했고, 그걸 알고도 왜 공급자를 붙잡는 쪽으로 움직이지 않았는지요.

공개된 문서에 적힌 것들

먼저 무엇이 나왔는지 정리할게요. 소송은 2023년 12월 뉴욕타임스가 제기했고, 지금은 뉴욕데일리뉴스를 포함한 다른 11개 언론사가 함께하고 있어요. 뉴욕 남부연방지법 시드니 스타인 판사가 약식 판결¹ 신청을 검토하고 있고, 그 과정에서 문서가 조금씩 풀리는 중이에요.

이번에 공개된 대목은 크게 세 갈래예요.

첫째는 규모예요. 원고 측 서면에 따르면 오픈AI의 중간 학습 데이터셋에만 원고 언론사 기사 사본이 9만 1,692건 넘게 들어 있었고, 커먼크롤²에서 추린 한 데이터셋에는 nytimes.com 문서만 200만 건이 넘었어요. 유료 벽을 우회하고 학습 데이터에서 저작권 고지를 지웠다는 정황도 원고 측 주장에 들어 있어요. 오픈AI 연구원이 뉴욕타임스 유료 벽을 우회하는 ‘핵’을 보고하자 그렉 브록먼 사장이 “아 좋네”라고 답했다는 대화도 그중 하나예요.

둘째는 내부의 우려예요. 헥트의 메모 말고도 있어요. 챗GPT 개발을 이끈 닉 털리는 2023년 6월 메모에서 AI가 언론사에 존재론적 위협이라고 썼고, 2024년 2월에는 AI 제품이 좋아질수록 점점 더 대체적이 될 거라고 적었어요. 2020년에는 당시 오픈AI 정책 디렉터였던 잭 클라크가 샘 올트먼과 브록먼에게, 회사가 사회의 문화를 만드는 사람들의 노동을 대체하는 시스템을 만들게 될 거라는 메모를 보냈어요. 클라크는 이후 회사를 떠나 앤스로픽을 공동 창업했어요.

셋째는 경영진의 진술이에요. 사티아 나델라 마이크로소프트 CEO는 증언 녹취에서 유료 벽 뒤의 콘텐츠는 쓰려는 누구든 라이선스를 받아야 한다고 했어요. 그리고 오픈AI가 유료 벽 뒤 정보를 긁어 학습했다는 걸 알았다면, 모델 재학습을 요구하는 권리를 행사했을 거라고 말했어요.

다만 읽을 때 조심할 점이 두 가지 있어요. 이번에 나온 내용 상당수는 원본 증거가 아니라 뉴욕타임스 측 서면에 인용된 발췌예요. 원 문서는 아직 봉인돼 있으니, 앞뒤 맥락 없이 잘린 문장이라는 뜻이에요. 그리고 마이크로소프트는 헥트의 메모가 회사 입장이 아니라고 반박했어요. 법원 서면에서는 그가 의사결정권자가 아니었고, 다른 각도의 관점을 내도록 고용된 연구자였다고 설명했고요. 오픈AI는 논평 요청에 답하지 않았어요.