2026.08.22제208호

OpenAI가 투자한 법률 AI 하비, 바탕은 중국 오픈웨이트

두 달과 GPU 150장이면 특화 모델을 다시 학습시킬 수 있어요. 하비가 중국 오픈웨이트를 고른 이유와, 1,750개 업무 환경이 자산이 된 이유를 정리했어요

AI·테크

하비의 법률 AI, 왜 중국 모델을 골랐을까

지난주 미국 법률 AI 업계에 작은 사건이 하나 있었어요. 하비(Harvey)가 8월 18일 첫 자체 모델 ‘테넷(Tenet)‘을 내놨거든요. OpenAI 스타트업 펀드가 초기에 투자했고, 지난 3월 110억 달러 가치로 평가받은 회사예요. 그런데 이 모델의 바탕은 OpenAI가 아니라 베이징 문샷AI의 Kimi K3였어요.

더 흥미로운 건 사흘 뒤예요. 한 달 전 재무장관이 중국 모델 제재를 입에 올렸던 바로 그 워싱턴에서, 백악관 AI 책임자 데이비드 색스가 이 모델을 “미국 기업이 세계 수준의 특화 모델을 만들고 있다”는 증거로 들었거든요.

미국 최대 법률 AI 회사는 왜 중국 모델을 골랐을까요? 이 사건에서 눈여겨볼 대목은 모델의 국적보다 걸린 시간이에요. 하비는 공개된 가중치를 받아 두 달 만에 자기 모델을 학습시켰어요. 바탕 모델을 이렇게 짧은 기간에 갈아 끼울 수 있게 되면, 모델을 훈련시킬 때 쓰는 업무 환경이 진짜 자산이 돼요. 백도어 우려도 근거가 없는 건 아니지만, 모델의 국적보다 어떻게 격리하고 검증하느냐에서 다뤄야 할 문제예요.

하비가 두 달 만에 사후학습시킨 모델

하비는 2022년에 세워진 회사예요. 로펌과 기업 법무팀에 리서치, 계약 검토, 문서 작성을 돕는 AI를 팔아요. 하비 집계로 60여 개국 1,500곳 넘는 고객이 있고, 미국 매출 상위 100대 로펌의 절반이 쓰며, 7월 기준 연환산 매출은 3억 5,000만 달러예요. 지금까지는 OpenAI, 앤스로픽, 구글의 모델을 작업에 따라 골라 쓰는 구조였어요. 자기 모델 없이 다른 회사가 만든 모델을 빌려 쓰는 방식이었던 거죠.

테넷은 하비가 처음으로 직접 학습시킨 모델이에요. 바탕은 7월 27일 가중치가 공개된 Kimi K3, 2조 8,000억 파라미터짜리 오픈웨이트¹ 모델이에요. 하비는 추론 인프라 회사 파이어웍스(Fireworks)와 함께 엔비디아 B300 GPU 약 150장으로 두 달 동안 사후학습²을 돌렸어요. 방식은 강화학습이에요. 변호사가 실제로 받는 일을 본뜬 약 1,750개의 업무 환경을 만들고, 모델이 그 안에서 문서를 읽고 도구를 쓰며 결과물을 내면 채점 기준에 따라 점수를 주는 식이에요. 한 에폭에 1만 번 넘는 시행³을 돌렸고요. 채점 기준은 하비가 5월에 공개한 법률 에이전트 벤치마크 LAB와 같은 방식으로 만들었는데, LAB만 해도 실제 변호사들이 쓴 채점 항목이 7만 5,000개가 넘어요.

결과는 이래요. 학습에 쓰지 않은 LAB 홀드아웃 문제에서 끝까지 완수한 과제 수가 기본 K3의 거의 두 배로 늘었고, 계약 분야(LAB Contracts)에서는 20% 올라 1위를 기록했어요. LAB 전체에서는 2위예요. 학습과 무관한 외부 벤치마크인 APEX Agents와 Redline Bench에서도 기본 모델보다 좋아졌고요. 하비 설명으로는 비용은 주요 프런티어 모델의 4분의 1 이하예요. 오픈웨이트라 토큰 단가가 싼 데다, 같은 결과라면 더 짧게 일하는 쪽에 보상을 줘서 토큰 자체를 덜 쓰게 훈련했거든요. 고객 데이터는 한 줄도 쓰지 않았다고 명시했어요.

제가 더 오래 들여다본 건 테넷 옆에 같이 나온 세 개의 전문 모델이에요. 구성이 로펌을 닮았어요. 최대 8,000만 토큰, A4로 치면 6만 장 분량의 데이터룸을 읽는 M&A 실사 모델이 하나, 문서 1만 건을 표로 정리하는 검토 모델이 하나, 로펌의 지식을 검색이 아니라 가중치 자체에 새겨 넣어 질의당 비용을 90% 줄인 ‘펌 날리지’ 모델이 하나예요. 파트너, 어소시에이트, 지식관리팀을 각각 모델로 만든 셈이에요.

그리고 이 셋의 바탕도 전부 중국 오픈웨이트예요. 실사와 검토 모델은 즈푸(Zhipu)의 GLM-5.2, 펌 날리지 모델은 알리바바의 Qwen3.8-27B예요. 학습에 쓴 강화학습 알고리즘 GSPO도 알리바바 Qwen 팀이 작년 7월에 낸 논문이고, 답안을 채점한 모델도 문샷의 Kimi 2.6이에요. 미국 투자금과 엔비디아 GPU를 쓰면서, 중국 연구실들이 공개한 모델과 학습 알고리즘을 용도별로 채택한 거예요.

왜 하필 중국 모델이었을까

답은 생각보다 단순해요. 그 체급의 미국산 오픈웨이트가 없어요.

미국에 오픈웨이트가 없는 건 아니에요. OpenAI의 gpt-oss, 구글의 Gemma, 메타의 llama가 있죠. 그런데 체급이 달라요. 벤처비트가 지난 3월 정리한 체급표를 보면, 작년 4월 나온 Llama 4는 평가가 좋지 않았고 대형 버전 Behemoth는 기약 없이 미뤄졌어요. Gemma 3는 가장 큰 버전이 270억 파라미터고, gpt-oss-120b는 토큰 하나를 처리할 때 실제로 움직이는 파라미터가 51억에 그쳐요. 수십만 토큰짜리 문서를 읽고 수백 단계를 처리하는 에이전트를 돌리기엔 규모가 작아요. 2조 8,000억짜리 오픈웨이트를 내려받을 수 있는 곳은 지금 중국뿐이에요.

harvey 선택의 근거는 벤치마크 점수였어요. 하비의 LAB를 독립 기관 Artificial Analysis가 따로 돌린 리더보드에서, 기본 Kimi K3는 채점 항목 충족률 기준으로 최상위권이에요. 하비 입장에서는 ‘중국 모델’을 고른 게 아니라, 자기가 낸 시험에서 가장 잘 푼 오픈 모델을 고른 거예요.

하비가 처음도 아니에요. 지난 3월, 코딩 도구 커서(Cursor)의 자체 모델 Composer 2가 Kimi K2.5 위에 만들어졌다는 사실이 드러났어요. 한 개발자가 API 트래픽을 뜯어보다 모델 이름에 ‘kimi-k2p5’가 박혀 있는 걸 발견했거든요. 커서는 몇 시간 만에 인정했고, 공동창업자는 “처음부터 밝히지 않은 건 실수였다”고 했어요. 코그니션(Cognition)의 SWE-1.6은 즈푸의 GLM 위에 만들어진 것으로 추정되고, 에어비앤비 CEO 브라이언 체스키는 “우리는 Qwen에 많이 기대고 있다”고 공개적으로 말했어요. 프로덕트 리더 피터 양이 정리한 목록에는 Qwen으로 갈아타 연 500만 달러를 아낀 쇼피파이도 올라 있고요.

여기서 제가 주목하는 건 5개월 사이의 변화예요. 3월의 커서는 들켜서 사과했어요. 8월의 하비는 블로그에 써서 자랑했고, 백악관이 칭찬했어요. 숨기던 일이 내세울 일이 된 거예요. 한 달 전 재무장관 베센트가 중국 모델을 제재할 수 있다고 경고했던 걸 떠올리면, 7월에 다룬 ‘미국 안의 균열’이 한 달 만에 구체적인 제품 하나로 모습을 드러낸 셈이에요.

덧붙여 재미있는 조항이 하나 있어요. Kimi K3 라이선스 3조는 월 매출 2,000만 달러가 넘는 제품이 이 모델을 쓰면 화면에 ‘Kimi K3’를 눈에 띄게 표시하라고 요구해요. 하비의 월 매출은 연환산 기준으로 약 2,900만 달러예요. 인증된 추론 파트너를 거치면 예외라는 4조가 있어서 실제로는 계약으로 풀릴 문제지만, 조문대로라면 미국 로펌의 화면에 중국 모델의 이름이 박혀야 해요. 법률 자문이 아니라 제가 조문을 읽은 해석이니, 이 대목은 원문을 직접 확인해보시길 권해요.

백도어 걱정, 모델 국적보다 배치 설계의 문제예요

“그래도 중국 모델인데 괜찮을까”라는 질문은 정당해요. 다만 걱정을 두 개로 나눠야 해요.

첫 번째 걱정은 데이터가 중국으로 가지 않느냐는 거예요. 이건 오픈웨이트의 성질을 보면 답이 나와요. 오픈웨이트는 서비스가 아니라 파일이에요. 하비의 모델은 미국 인프라인 파이어웍스 위에서 돌고, 문샷의 서버와는 한 바이트도 주고받지 않아요. 앱을 설치해 중국 서버로 질문을 보내는 DeepSeek 앱과는 완전히 다른 문제예요. 여기에 하비는 학습에 고객 데이터를 쓰지 않았다고 못 박았고요.

두 번째 걱정은 가중치 안에 뭔가 심어져 있지 않느냐는 거예요. 이건 근거가 있는 걱정이에요. 앤스로픽이 2024년에 낸 ‘슬리퍼 에이전트’ 연구를 보면, 특정 조건에서만 발동하도록 심어둔 행동은 이후의 안전 학습을 거쳐도 살아남을 수 있어요. 게다가 하비가 쓴 LoRA⁴ 방식은 원래 가중치는 거의 그대로 두고 얇은 층만 덧대는 방식이라, 두 달의 사후학습이 바탕 모델의 성질을 ‘세탁’해주진 않아요.

그런데 이 위험의 성질을 보면 대응도 보여요. 법률 에이전트는 격리된 샌드박스 안에서 문서를 읽고 메모를 쓰는 존재예요. 외부로 나가는 통신을 막고, 도구 권한을 제한하고, 인용이 실제 문서와 맞는지 검증하면 가중치에 뭐가 들어 있든 할 수 있는 일이 줄어요. 즉 이건 모델의 국적이 아니라 배치 설계가 관리하는 위험이에요. 젠슨 황이 7월에 “샌드박스 안에서 통제할 수 있다”고 한 말과 같은 논리인데, 저는 거기에 한 줄을 보태고 싶어요. 통제할 수 있다는 말은 통제해야 한다는 말이기도 해요. 우려를 해소하려면 외부 통신 차단, 도구 권한 제한, 인용 검증을 실제 운영 구조에 넣어야 한다는 뜻이에요.

이 위험을 다룰 역량이 있는 회사에게 중국 오픈웨이트는 이미 한번 검토해볼 후보가 아니라 기본 선택지가 됐어요.

‘껍데기(Wrapper)의 역습’은 절반만 맞아요

이번 발표를 두고 이런 해석이 돌아요. “래퍼라 불리던 회사들이 직접 모델을 갖기 시작했다. 프런티어 랩의 고객이 하나씩 경쟁자가 되는 중이다.” 저는 이 해석이 절반만 맞다고 봐요.

맞는 절반부터요. 커서와 하비는 둘 다 프런티어 랩의 API를 가장 많이 쓰는 고객이었어요. 이런 회사들이 가장 많이 돌리는 핵심 작업을 자기 모델로 옮기면, 프런티어 랩 API 매출에서 비중이 큰 부분이 줄어들어요. 그건 분명한 위협이에요.

맞지 않는 절반은 ‘경쟁자’라는 단어예요. 하비는 여전히 OpenAI, 앤스로픽, 구글 모델을 작업에 따라 골라 쓰고, LAB 전체 1위는 테넷이 아니에요. 경쟁자가 됐다기보다, 작업을 모델에 배분하는 표에서 한 줄을 가져간 거예요. 가장 어려운 일은 여전히 빌리고, 가장 많이 반복되는 일은 직접 짓는 분업이 시작된 거예요.

그리고 더 중요한 오해가 있어요. 하비의 핵심 자산은 모델 자체가 아니에요. 모델은 두 달과 GPU 150장이면 다시 학습시킬 수 있어요. 이달 초 ‘헐값이 된 지능’ 편에서 본 블랙웰 임대료(시간당 5달러대)를 넣어 계산하면 GPU 비용만 15억~20억 원 안팎이에요. 변호사 데이터와 환경 구축 비용이 훨씬 크겠지만, 110억 달러짜리 회사에겐 어느 쪽도 큰돈이 아니에요. 하비의 자산은 1,750개의 업무 환경과 7만 5,000개의 채점 기준, 그리고 그걸 쓰려고 머서(Mercor)와 스노클(Snorkel)을 통해 고용한 변호사들이에요. 다음 오픈웨이트가 나오면 바탕 모델은 갈아 끼우고 환경은 그대로 써요. 모델은 갈아 쓰는 소모품에 가깝고, 환경은 계속 남는 자산이에요.

그러니 ‘껍데기/포장지(Wrapper)‘라는 말이 처음부터 틀린 프레임이었어요. 업무 흐름을 모델 위에 얹은 게 아니라, 그 업무 흐름 자체가 모델을 학습시키는 환경이 됐어요. 그래서 경쟁 구도도 프런티어 랩과 응용 회사의 대결보다는, 학습 환경을 가진 회사와 갖지 못한 회사의 차이로 보는 편이 맞아요.

오스왈드의 시선

카카오브레인에서 AI 제품을 맡았을 때 배운 게 하나 있어요. 모델이 좋아지는 속도와 제품이 좋아지는 속도는 다르다는 거예요. 그 간극을 메운 건 더 큰 모델이 아니라 “무엇이 잘한 결과인지”를 적어둔 평가 기준이었어요. 그래서 이번 발표에서 제가 가장 오래 들여다본 숫자는 파라미터 2조 8,000억이나 GPU 150장이 아니라, 변호사들이 쓴 채점 항목 7만 5,000개였어요.

GTM 관점에서 더 눈에 띄는 건 하비가 밝힌 두 번째 연구 목표예요. 하비는 이번 발표에서 “로펌이 자기 모델을 만들고 자기 지능을 소유하게 한다”를 연구 목표로 못 박았고, “같은 하비를 쓰는 두 로펌은 다른 모델과 다른 결과물을 갖게 될 것”이라고 했어요. 펌 날리지 모델이 그 시제품이에요. 로펌의 지식이 검색 색인이 아니라 모델 가중치에 학습되면, 그 로펌이 쌓아둔 지식은 다른 제품으로 옮길 때 그대로 가져가기 어려워요. GTM 전략을 짜면서 수많은 락인 설계를 봤지만, 고객의 지식을 모델 가중치에 학습시키는 것만큼 전환 비용이 큰 설계는 본 적이 없어요. 하비가 파는 건 완성된 모델 하나가 아니라, 로펌마다 자기 모델을 학습시킬 수 있는 구조예요.

한국 이야기로 가져오면 두 가지예요. 하나는 소버린 AI 논쟁에 대한 질문이에요. 두 달과 GPU 150장이면 특화 모델이 나오는 세계에서 희소한 건 파운데이션 모델이 아니라 업종별 환경과 채점 기준이에요. 한국에 독자 파운데이션 모델이 있느냐보다, 한국의 법률·금융·제조 업무를 1,750개 환경으로 적어둔 곳이 있느냐가 더 급한 질문이에요. 다른 하나는 현실적인 제약이에요. 한국의 공공과 금융에서 중국 모델을 고를 때 치러야 하는 정치적 비용은 미국보다 높아요. 그래서 먼저 움직이는 조직은 “어느 나라 모델이냐”가 아니라 “어떻게 격리하고 검증하느냐”를 설명할 수 있는 곳일 거예요.

마치며

정리하면 세 가지예요. 첫째, OpenAI가 투자한 하비가 중국 오픈웨이트 세 종류로 두 달 만에 자기 모델을 만들었고, 백악관 AI 책임자가 이를 미국 기업의 모범으로 들었어요. 둘째, 이유는 그 체급의 미국산 오픈웨이트가 없어서예요. 백도어 걱정은 모델의 국적이 아니라 배치 설계로 다루는 문제가 됐고요. 셋째, 래퍼가 모델을 갖게 됐다기보다, 학습 환경과 채점 기준을 갖춘 회사가 바탕 모델을 그때그때 갈아 끼울 수 있게 된 거예요.

이번 주에 해볼 일 하나를 제안할게요. 조직에서 가장 자주 반복되는 업무 열 개를 적고, 각각 “어떤 결과가 나오면 합격인지”를 항목으로 써보세요. 그 목록이 하비의 7만 5,000개 채점 기준의 축소판이에요. 모델은 바뀌어도 그 목록은 남아요.

구독자님의 조직에서는 중국 오픈웨이트 모델을 검토해보신 적이 있나요? 있다면 어디서 막혔는지, 보안팀이었는지 법무팀이었는지 경영진이었는지 댓글로 들려주세요. 막힌 지점을 모아서 다음 호에서 ‘검토를 통과하는 설계’ 편으로 이어가볼게요.

💬 중국 오픈웨이트 검토가 어디서 막혔는지 댓글로 들려주세요. 다음 호에 반영해볼게요. 📨 모델 선정을 고민하는 동료가 있다면 이 글을 공유해 주세요.

여러분의 생각이 다음 호를 만듭니다

이번 호에서 가장 공감했거나, 다른 경험을 한 지점은 무엇인가요?

SEND A COFFEE

이 관점이 좋았다면, 다음 글에 커피 한 잔

오스왈드에게 커피와 함께 짧은 쪽지를 보내주세요. 응원은 다음 취재와 집필에 보탭니다.

참고자료 & 더 읽기

핵심 출처

Harvey (Calvin Qi 외), “Update on Harvey’s Post-Training Effort”, Harvey Blog, 2026.8. ··· 오늘 글의 1차 출처예요. 1,750개 환경, B300 150장, 두 달, 세 개의 전문 모델, 고객 데이터 미사용 선언이 모두 여기 있어요. 두 가지 연구 목표를 밝힌 첫 문단부터 읽어보시길 권해요.
Harvey, “Introducing Harvey’s Legal Agent Benchmark”, Harvey Blog, 2026.5.6. ··· 1,200개 과제, 24개 실무 분야, 7만 5,000개 채점 항목, 그리고 ‘8개 맞히면 80점’이 아니라 ‘하나라도 틀리면 0점’인 전수 통과 채점의 논리가 담겨 있어요.
Benzinga, “David Sacks Defends Open-Source AI, Cites Harvey’s Tenet Model”, 2026.8. ··· 8월 21일 색스의 X 발언 원문과, ‘프런티어 모델 4분의 1 이하 비용’이라는 하비 측 주장이 여기 정리돼 있어요.
South China Morning Post, “OpenAI-backed legal tech firm pivots to Chinese Kimi K3 open-weight model”, 2026.8.21. ··· 이 사건을 ‘서구 기업의 중국 오픈웨이트 이동’이라는 큰 흐름 안에서 본 기사예요.
VentureBeat, “Cursor’s Composer 2 was secretly built on a Chinese AI model”, 2026.3. ··· 커서 사건의 전말과 함께, Llama 4·Gemma 3·gpt-oss가 왜 대안이 되지 못하는지 체급 비교가 잘 정리돼 있어요.
Simon Willison, “moonshotai/Kimi-K3”, 2026.7.27. ··· K3 가중치 공개 당일의 기록이에요. 월 매출 2,000만 달러 이상이면 ‘Kimi K3’를 표시하라는 라이선스 조항과 그 변천이 정리돼 있어요.

배경 지식

Chujie Zheng 외, “Group Sequence Policy Optimization”, arXiv, 2025. ··· 하비가 쓴 강화학습 알고리즘 GSPO의 원 논문이에요. 알리바바 Qwen 팀이 썼어요.
Evan Hubinger 외, “Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training”, arXiv, 2024. ··· 가중치에 심은 조건부 행동이 안전 학습을 거쳐도 살아남는다는 걸 보인 연구예요. 백도어 걱정이 왜 ‘근거 있는 걱정’인지 여기서 확인하실 수 있어요.
Alex L. Zhang, Tim Kraska, Omar Khattab, “Recursive Language Models”, arXiv, 2025. ··· 하비가 8,000만 토큰짜리 데이터룸을 다루려고 하네스에 넣은 ‘재귀 언어 모델’의 원 논문이에요. MIT 연구예요.
Artificial Analysis, “Harvey LAB-AA Leaderboard”. ··· 하비의 LAB를 독립 기관이 따로 돌린 리더보드예요. 기본 Kimi K3가 어디쯤 있는지 직접 확인해보세요.
Axios, “David Sacks says Chinese open-weight AI models push China ahead”, 2026.7.17. ··· K3 공개 직후 색스가 “우려스럽다”면서도 규제가 아니라 개방을 답으로 꼽은 글이에요. 8월 발언의 전편이에요.
Sacra, “Harvey revenue, valuation & funding”. ··· 연환산 매출 3억 5,000만 달러, 110억 달러 가치, 고객 수 같은 숫자의 출처예요.

함께 읽으면 좋은 지난 호

시간을 파는 사업에서, AI가 시간을 줄여버리면 무엇을 팔 것인가? ··· Harvey가 등장하며 미국의 법률 시장이 재편되는 이야기를 한 호에요. 시간이 아닌 가치를 파는 것에 대해서 이야기 해요.
젠슨 황은 왜 중국 모델을 칭찬했을까 ··· 오늘 글의 전편이에요. 베센트의 제재 경고와 황의 옹호가 같은 날 나온 장면, 그 ‘미국 안의 균열’을 먼저 보시면 오늘 이야기가 그 다음 장면으로 읽혀요.
봉쇄가 키운 중국, 이제 문을 잠근다 ··· 중국 쪽에서 본 같은 이야기예요. 문을 잠그기 시작한 중국의 오픈웨이트 위에 미국 회사들이 집을 짓고 있다는 점에서 같이 읽으면 입체적이에요.

필자 안광섭 (오스왈드)은 세종대학교 겸임교수, INLEVEL9 전략 컨설턴트입니다. 경력, 연구, 저서와 최신 활동은 저자 소개에서 계속 갱신합니다. 최근 소식 · 2026년 8월: 2026 세종도서 교양부문 우수도서 선정.

📝 용어 설명

각주

오픈웨이트(open weights): 모델의 학습 결과물인 가중치 파일을 누구나 내려받아 자기 서버에서 돌리고 수정할 수 있게 공개하는 방식이에요. 서비스가 아니라 파일이라서, 어느 나라 서버에서 돌리느냐는 받는 쪽이 정해요. ↩
사후학습(post-training): 이미 만들어진 모델에 특정 분야의 데이터와 보상을 추가로 학습시켜 용도에 맞게 다듬는 과정이에요. 대학을 졸업한 사람을 신입 변호사로 훈련시키는 로펌의 연수 과정에 가까워요. ↩
시행(rollout): 강화학습에서 모델이 환경 안에서 과제 하나를 처음부터 끝까지 수행해보는 한 번의 시도예요. 이 시도의 결과에 점수를 매겨 모델을 고치기 때문에, 시행 횟수가 곧 연습량이에요. ↩
LoRA(Low-Rank Adaptation): 원래 모델의 가중치는 건드리지 않고, 옆에 얇은 보조 층을 붙여 그 층만 학습시키는 방법이에요. 비용이 적게 드는 대신, 바탕 모델의 성질이 대부분 그대로 남아요. ↩