가중치는 공개됐는데 개인은 못 돌리는 오픈 웨이트

2.8조 파라미터 모델, 내려받아도 개인 장비로는 못 돌려요

지난 7월 17일 베이징의 문샷AI가 Kimi K3를 공개했어요. 파라미터 2조 8,000억 개로, 문샷이 스스로 세계 최대 오픈 웨이트¹ 모델이라고 밝힌 모델이에요. 허깅페이스에서 지금도 누구나 내려받을 수 있어요. 문제는 내려받은 다음이에요. 가중치 파일만 1.5테라바이트가 넘어, 아래 실측처럼 구동하려면 일반 개인용 컴퓨터를 크게 넘어서는 메모리와 서버 구성이 필요하거든요.

요즘 프런티어급 오픈 모델은 누구나 가중치를 내려받을 수 있지만, 실제로 실행할 수 있는 곳은 클라우드 사업자와 기업, 정부로 좁혀졌어요. 그 차이가 얼마나 큰지 메모리 요구량과 서빙 비용 숫자로 짚어볼게요.

---

두 주 만에 상위 다섯 자리가 중국 모델로 바뀐 순위표

먼저 순위표부터 볼게요. 벤치마크 기관 Artificial Analysis의 지능 지수 기준으로, 오픈 웨이트 상위권은 지금 Kimi K3(57점), GLM-5.2(51점), 딥시크 V4 Flash(50점) 순이에요. 4위와 5위도 Kimi의 저사양 버전과 MiniMax예요. 상위 다섯 자리가 전부 중국 모델이라는 뜻이에요.

이 순위표는 지난 두 주 사이에 다시 쓰였어요. 7월 17일 문샷이 Kimi K3를 냈고, 이틀 뒤 알리바바가 “Fable 5에만 뒤진다”는 자평과 함께 2조 4,000억 파라미터의 Qwen3.8-Max를 예고했어요. 그 사이 오픈AI가 주력 모델 가격을 80% 내리는 일이 있었고, 7월 31일 딥시크가 V4 Flash 정식판을, 8월 3일 알리바바가 Qwen3.8-Max 정식판을 내놨어요. 가중치는 다음 주 공개 예정이고요.

성능만 오른 게 아니라 모델 크기도 커졌어요. GLM-5.2가 7,530억 개, 딥시크 V4-Pro가 1조 6,000억 개, Qwen3.8-Max가 2조 4,000억 개, Kimi K3가 2조 8,000억 개예요. 커지는 이유는 프런티어 성능을 따라잡기 위해서예요. 딥시크 V4 Flash의 50점은 오픈AI 최신 폐쇄형 모델과 딱 1점 차이고, Kimi K3는 아예 Fable·Sol급 지능을 표방해요. 이 업체들은 최상위권 성능을 얻기 위해 모델을 크게 만드는 전략을 택했어요. 그리고 이렇게 커질 수 있는 이유는 요즘 대형 모델이 전부 전문가 혼합(MoE)² 구조이기 때문이에요. 토큰 하나를 처리할 때 전체 파라미터 중 일부만 계산에 쓰는 방식이거든요. Qwen3.8-Max는 2조 4,000억 개 중 950억 개만, 딥시크 V4 Flash는 2,840억 개 중 130억 개만 계산에 참여해요.

여기서 비용 구조가 갈려요. 연산 비용은 활성 파라미터를 따라가지만, 메모리 요구량은 전체 파라미터를 따라가요. 빠르게 응답하는 서빙 구성에서는 어떤 전문가가 호출되든 바로 쓸 수 있도록 전체 가중치를 메모리에 올려두기 때문이에요. 그래서 API 요금은 아주 싼데(딥시크는 100만 출력 토큰에 0.28달러예요), 집에서 돌리려면 2조 8,000억 개 전부를 담을 그래픽 메모리가 필요해요. API가 싼 이유와 집에서 못 돌리는 이유가 같은 설계에서 나오는 거예요.

1.5테라바이트가 어느 정도냐면, 소비자용 최상급 그래픽카드인 RTX 5090의 메모리가 32기가바이트예요. 메모리 용량만 단순히 더해도 약 마흔여덟 장에 해당하는 크기이고, 100만 토큰 문맥용 KV 캐시³는 아직 계산에 넣지도 않았어요. 늘어나는 속도도 비교해볼게요. 소비자 GPU 메모리는 2020년 24기가에서 2025년 32기가로, 5년간 33% 늘었어요. 비교 기간은 다르지만, 오픈 모델의 최대 크기는 2024년 라마 405B에서 2026년 2.8T로, 2년 만에 7배가 됐어요. 모델 크기가 커지는 속도가 소비자용 GPU 메모리 용량이 늘어나는 속도보다 훨씬 빨라요.

---