OpenAI가 투자한 법률 AI 하비, 바탕은 중국 오픈웨이트

하비의 법률 AI, 왜 중국 모델을 골랐을까

지난주 미국 법률 AI 업계에 작은 사건이 하나 있었어요. 하비(Harvey)가 8월 18일 첫 자체 모델 ‘테넷(Tenet)‘을 내놨거든요. OpenAI 스타트업 펀드가 초기에 투자했고, 지난 3월 110억 달러 가치로 평가받은 회사예요. 그런데 이 모델의 바탕은 OpenAI가 아니라 베이징 문샷AI의 Kimi K3였어요.

더 흥미로운 건 사흘 뒤예요. 한 달 전 재무장관이 중국 모델 제재를 입에 올렸던 바로 그 워싱턴에서, 백악관 AI 책임자 데이비드 색스가 이 모델을 “미국 기업이 세계 수준의 특화 모델을 만들고 있다”는 증거로 들었거든요.

미국 최대 법률 AI 회사는 왜 중국 모델을 골랐을까요? 이 사건에서 눈여겨볼 대목은 모델의 국적보다 걸린 시간이에요. 하비는 공개된 가중치를 받아 두 달 만에 자기 모델을 학습시켰어요. 바탕 모델을 이렇게 짧은 기간에 갈아 끼울 수 있게 되면, 모델을 훈련시킬 때 쓰는 업무 환경이 진짜 자산이 돼요. 백도어 우려도 근거가 없는 건 아니지만, 모델의 국적보다 어떻게 격리하고 검증하느냐에서 다뤄야 할 문제예요.

---

하비가 두 달 만에 사후학습시킨 모델

하비는 2022년에 세워진 회사예요. 로펌과 기업 법무팀에 리서치, 계약 검토, 문서 작성을 돕는 AI를 팔아요. 하비 집계로 60여 개국 1,500곳 넘는 고객이 있고, 미국 매출 상위 100대 로펌의 절반이 쓰며, 7월 기준 연환산 매출은 3억 5,000만 달러예요. 지금까지는 OpenAI, 앤스로픽, 구글의 모델을 작업에 따라 골라 쓰는 구조였어요. 자기 모델 없이 다른 회사가 만든 모델을 빌려 쓰는 방식이었던 거죠.

테넷은 하비가 처음으로 직접 학습시킨 모델이에요. 바탕은 7월 27일 가중치가 공개된 Kimi K3, 2조 8,000억 파라미터짜리 오픈웨이트¹ 모델이에요. 하비는 추론 인프라 회사 파이어웍스(Fireworks)와 함께 엔비디아 B300 GPU 약 150장으로 두 달 동안 사후학습²을 돌렸어요. 방식은 강화학습이에요. 변호사가 실제로 받는 일을 본뜬 약 1,750개의 업무 환경을 만들고, 모델이 그 안에서 문서를 읽고 도구를 쓰며 결과물을 내면 채점 기준에 따라 점수를 주는 식이에요. 한 에폭에 1만 번 넘는 시행³을 돌렸고요. 채점 기준은 하비가 5월에 공개한 법률 에이전트 벤치마크 LAB와 같은 방식으로 만들었는데, LAB만 해도 실제 변호사들이 쓴 채점 항목이 7만 5,000개가 넘어요.

결과는 이래요. 학습에 쓰지 않은 LAB 홀드아웃 문제에서 끝까지 완수한 과제 수가 기본 K3의 거의 두 배로 늘었고, 계약 분야(LAB Contracts)에서는 20% 올라 1위를 기록했어요. LAB 전체에서는 2위예요. 학습과 무관한 외부 벤치마크인 APEX Agents와 Redline Bench에서도 기본 모델보다 좋아졌고요. 하비 설명으로는 비용은 주요 프런티어 모델의 4분의 1 이하예요. 오픈웨이트라 토큰 단가가 싼 데다, 같은 결과라면 더 짧게 일하는 쪽에 보상을 줘서 토큰 자체를 덜 쓰게 훈련했거든요. 고객 데이터는 한 줄도 쓰지 않았다고 명시했어요.

제가 더 오래 들여다본 건 테넷 옆에 같이 나온 세 개의 전문 모델이에요. 구성이 로펌을 닮았어요. 최대 8,000만 토큰, A4로 치면 6만 장 분량의 데이터룸을 읽는 M&A 실사 모델이 하나, 문서 1만 건을 표로 정리하는 검토 모델이 하나, 로펌의 지식을 검색이 아니라 가중치 자체에 새겨 넣어 질의당 비용을 90% 줄인 ‘펌 날리지’ 모델이 하나예요. 파트너, 어소시에이트, 지식관리팀을 각각 모델로 만든 셈이에요.

그리고 이 셋의 바탕도 전부 중국 오픈웨이트예요. 실사와 검토 모델은 즈푸(Zhipu)의 GLM-5.2, 펌 날리지 모델은 알리바바의 Qwen3.8-27B예요. 학습에 쓴 강화학습 알고리즘 GSPO도 알리바바 Qwen 팀이 작년 7월에 낸 논문이고, 답안을 채점한 모델도 문샷의 Kimi 2.6이에요. 미국 투자금과 엔비디아 GPU를 쓰면서, 중국 연구실들이 공개한 모델과 학습 알고리즘을 용도별로 채택한 거예요.