重みは公開されても個人では動かせないオープンウェイト
Kimi K3は重みだけで1.5TBを超えます。演算に一部のパラメータしか使わないMoEモデルでも、自前で動かすには巨大なメモリが必要となる理由を掘り下げます。
AI・テック2.8兆パラメータのモデル、ダウンロードできても個人の環境では動かせない
7月17日、北京のMoonshot AIが「Kimi K3」を公開しました。パラメータ数は2兆8,000億個で、Moonshot自身が世界最大のオープンウェイト1モデルだと発表したモデルです。現在もHugging Faceから誰でもダウンロードできます。問題は、ダウンロードした先です。重みファイルだけで1.5テラバイトを超え、後述の実測値のように動かすには、一般的なパソコンをはるかに超えるメモリとサーバー構成が必要になるからです。
最近のフロンティア級オープンモデルは、誰もが重みをダウンロードできる一方で、実際に実行できる主体はクラウド事業者や大企業、政府機関へと狭まりました。その隔たりがどれほど大きいのか、メモリ要求量とサービング費用の数字から紐解いてみます。
わずか2週間で上位5枠が中国製モデルに塗り替わったランキング
まずはランキングから見ていきましょう。ベンチマーク機関Artificial Analysisの知能指数基準で、オープンウェイトの上位陣は現在、Kimi K3（57点）、GLM-5.2（51点）、DeepSeek V4 Flash（50点）の順となっています。4位と5位もKimiの軽量版とMiniMaxです。上位5枠がすべて中国のモデルで占められていることを意味します。
この順位表は、ここ2週間の間に塗り替えられました。7月17日にMoonshotがKimi K3を投入し、その2日後にはAlibabaが「Fable 5に次ぐ」という自己評価とともに、2兆4,000億パラメータの「Qwen3.8-Max」を予告しました。その間にOpenAIが主力モデルの価格を80%引き下げる動きがあり、7月31日にDeepSeekがV4 Flashの正式版を、8月3日にはAlibabaがQwen3.8-Maxの正式版をリリースしました。重みは来週公開予定となっています。
向上したのは性能だけではなく、モデルの規模も巨大化しました。GLM-5.2が7,530億個、DeepSeek V4-Proが1兆6,000億個、Qwen3.8-Maxが2兆4,000億個、Kimi K3が2兆8,000億個です。巨大化する理由は、フロンティア級の性能に追いつくためです。DeepSeek V4 Flashの50点はOpenAIの最新クローズドモデルとわずか1点差であり、Kimi K3に至ってはFableやSol級の知能を標榜しています。各社は最上位の性能を達成するために、モデルを巨大化させる戦略を選びました。そしてこれほど巨大化できるのは、昨今の大規模モデルが軒並み専門家混合（MoE）2アーキテクチャを採用しているからです。1つのトークンを処理する際、全パラメータのうち一部だけを計算に使う設計だからです。Qwen3.8-Maxは2兆4,000億個のうち950億個、DeepSeek V4 Flashは2,840億個のうち130億個だけが実際の計算に参加します。
ここにコスト構造の分岐点があります。演算コストはアクティブパラメータ数に比例しますが、メモリ要求量は全パラメータ数に比例します。 高速に応答するサービング構成では、どの専門家（Expert）が呼び出されても即座に対応できるよう、すべての重みをメモリ上に常駐させておく必要があるためです。そのため、API料金は極めて安価である一方（DeepSeekは出力100万トークンあたり0.28ドルです）、自宅で動かそうとすれば2兆8,000億個のパラメータすべてを収めるビデオメモリが求められます。APIが安い理由と自宅で動かせない理由は、まったく同一の設計に由来しているのです。
1.5テラバイトがどれほどの規模かというと、コンシューマー向け最上位グラフィックボードであるRTX 5090のビデオメモリが32ギガバイトです。単純にメモリ容量を足し算しただけでも約48枚分に匹敵するサイズであり、100万トークンのコンテキストを保持するためのKVキャッシュ3はまだ計算に入れてすらありません。容量の増加ペースも比較してみましょう。民生用GPUのメモリは、2020年の24ギガから2025年の32ギガへと、5年間で33%の増加にとどまりました。比較対象の期間は異なるものの、オープンモデルの最大サイズは2024年のLlama 405Bから2026年の2.8Tへと、わずか2年で7倍に跳ね上がりました。モデルサイズが拡大するスピードは、民生用GPUのメモリ容量が増えるペースをはるかに凌駕しています。
GPU最適化の専門企業がKimi K3を直接サービングしてみた
では、こうしたモデルは一体誰が、どのように動かしているのでしょうか。先週、参考になる実測記録が公開されました。AMDチップ上でオープンモデルの推論サービスを提供するスタートアップ、WaferがKimi K3を自前でサービングした検証記録です。AMDでのサービングを本業とする企業による自主検証という点は差し引いて読む必要がありますが、プロセスが克明に記されており大いに参考になります。
まず数字を整理すると次のようになります。Kimi K3は、Nvidiaの標準的な8基構成のB200ノード（GPUあたり192ギガ、合計1.5テラバイト）には、重みとKVキャッシュを同時に収めることができません。Waferが比較対象とした代替案は、GPUあたり288ギガを備えるB300ノード、およびB200ノードを2台連結した構成です。しかし、GPUあたり288ギガのメモリを備えるチップはもう1つ存在します。AMDの「MI355X」です。Waferの実測において、MI355Xの8基ノードは毎秒952トークンを叩き出し、GPUのレンタル価格を反映した1ドルあたりの処理トークン数は48トークンと、B300（33トークン）やB200の2ノード構成（7トークン）を上回りました。この検証では、巨大なメモリ容量によって単一ノードで稼働できた点と、レンタル料金の差がAMDのコストパフォーマンスに有利に働いた形です。
1か月前の記録と比較すると、この違いがより鮮明になります。同チームが7月初旬にGLM-5.2（7,530億個）をサービングした際は、事情が異なっていました。GLM-5.2はNvidiaの1ノードに収まるサイズだったため、AMDは量子化4やフレームワークの修正まで施しても、「性能は80%程度、価格は半額」というコストパフォーマンス重視の代替肢にとどまっていたのです。異なるモデルと構成の比較であるため要因を1つに断定することはできませんが、メモリ容量がいかに重要な制約であるかを物語っています。
ただし、この実測で私がより注目したのは順位ではなく運用の難度です。GPUの最適化を専業とするこの企業でさえ、最初のリクエストでスケジューラがクラッシュするエラーに見舞われ、不足していた関数をPyTorchで自ら書き下ろし、アテンション演算のテンソル形状の制約を回避する小細工まで弄して、ようやく目標性能に到達しました。それでも今回はまだ楽だったというのが同チームの振り返りです。直前のモデルたちではカスタムカーネルを新しく書き直したり、フレームワークのバグを2つ同時に修正したりする必要があったからです。弱点もあります。17万トークンのドキュメントを最初に読み込ませるプリフィル処理に51秒を要し、Nvidia B300の23秒と比べて2倍以上遅い結果となりました。そしてこれらすべてをクリアしたとしても、ノードのレンタル料金は1時間あたり20ドル前後に達します。1か月動かせばウォン換算で約2,000万ウォンにのぼり、個人が負担できる水準ではありません。
もちろん、逆のアプローチもあります。DeepSeek V4 Flashは全体で2,840億個と設計自体がコンパクトで、3ビット量子化版なら103ギガに収まるため、128ギガのRAMを積んだハイエンドワークステーションがあれば動作します。AlibabaもQwen3.8-Maxとともに270億個の小型版を予告しています。つまり、「動かせるオープン」が消滅したわけではありません。ただし、そうしたモデルはフロンティアより一段下の階層に位置づけられ、フロンティア級そのものは個人で直接動かすことが不可能になったというのが正確な描写です。
それでも重みを無償で公開する理由
では、個人開発者の大半が動かせもしないモデルを、なぜ競い合うように無償公開するのでしょうか。
ウォール街の分析にそのヒントがあります。Citiは8月初旬のAlibabaに関するレポートで次のように整理しました。モデルが数週間単位で刷新される現在、企業は業務ごとにモデルを柔軟に差し替える「モデル非依存（Model-agnostic）」の戦略へとシフトしており、それに伴い個別のモデルが持つ参入障壁は低下し、競争の焦点はモデルを載せるプラットフォームやインフラへと移行している、と。だからこそ、チップからクラウド、モデル、アプリケーションまで垂直統合で保有するAlibabaに有利であるというのが買い推奨の論理です。セルサイドレポート特有のポジショントークは差し引いて捉える必要がありますが、その方向性はAlibabaの実際の動きと完全に一致しています。重みは無償で開放すると宣言したまさにその日、企業向けエージェント製品「QwenWork」を自社のDingTalkに統合して市場へ投入したからです。モデルは顧客を引きつけるための手段であり、実際に販売している商品はクラウドと業務ツールであるという構図です。
これは先月のDeepSeek資金調達の回で引用した、リャン・ウェンフォン（梁文鋒）の計算とも通底しています。
「100倍の利益を出したいならオープンソースは邪魔になるだろうが、合理的な利潤だけを求めるなら何の影響もない」
つまり、フロンティア級の重み公開が狙う真の需要層は、最初から個人ではありません。自社インフラに組み込んで再販するクラウド事業者、データを社外に出せない企業、自国の領域内に知能を保持したい政府、そしてWaferのようにサービング自体をビジネスにする企業群です。とりわけ企業側の需要は具体的です。金融や医療、防衛のようにデータを外部APIへ送信できない業種では、重みを社内環境に閉じて運用でき、自社の独自データでファインチューニングが可能で、モデルの仕様がある日突然勝手に変更されない確実性を確保できます。各国政府が掲げる「ソブリンAI」を構築する際、真っ先に候補に挙がるのもこうした公開済みの重みです。突き詰めれば、重みの無償公開とは、モデルの配布とサービングの負担をこれら外部のプレイヤーに委ねる戦略に近いと言えます。
この潮流から恩恵を受けるプレイヤーがもう1つあります。モデルサイズの競争がメモリ容量の競争へと直結したことで、チップの性能を決定づける要素が演算ユニットそのものから、その隣に積層される広帯域メモリ（HBM）5へとシフトしているためです。MI355Xの288ギガを満たしているのは、サムスン電子とMicronのHBM3E 12段積層品です。Nvidia向けの納品認証が長期にわたり難航していたサムスンはAMD向けへの供給を先行して開始しましたが、中国製モデルの巨大化に伴い、この供給需要が拡大しています。モデルを直接動かせるプレイヤーはごく一部に限られても、メモリを売る企業の需要は確実に底上げされているわけです。
逆にモデルを小型化する戦略もある
この2週間の発表の中には、韓国国内の興味深い事例もありました。7月27日、Kakaoが小型モデルシリーズの第2弾となる「Kanana-2」を公開しました。30億パラメータのモデルをゼロから学習させた後、プルーニング（枝刈り）と蒸留によって13億個まで削ぎ落とした構成で、13億モデルには明確にオンデバイス配信用と明記されています。Kimi K3と並べると、サイズは実に2,000分の1です。重みが1.5テラバイトのモデルと2.6ギガバイトのモデル、サーバーラックで稼働させるモデルとスマートフォン上で動かすモデルの違いです。
真逆のベクトルを向いているのは、意図された選択です。フロンティアモデルの軍拡競争に投じる資本を持たない企業にとって最大の資産は、すでに数千万人ものユーザーを抱えるアプリであり、その規模でサーバー推論を回せばコストを支えきれないからです。モデルが端末内部で動作すればサーバーの推論費用はほぼゼロになり、データがスマートフォンから外へ出ることもありません。先述した企業が重みを社内に抱え込んで運用するのと同じ構造を、個人の端末レベルで実現しているわけです。設計思想もメモリ節約に徹底して照準が合わされています。
KVキャッシュを最大72.7%削減するアテンション構造を採用したというのがKakaoの説明です。自社ベンチマークにおいて、韓国語の知識応答では同クラスのQwenに2倍の差をつけて勝利している一方、数学の推論能力では劣勢に立たされています。フロンティアと階層が異なるのは明白ですが、そもそも狙いが要約や分類といった日常的なタスクであれば、採算の計算式は変わってきます。大型モデルの性能が降りてくるのをただ待つのではなく、小型モデルが得意とするタスクにリソースを集中させる戦略です。
Oswarldの視点
GTM（Go-To-Market）戦略のコンサルティングを行う中で無料戦略を検証する際、私が必ず確認する項目が1つあります。その「無料」のコストを、最終的に誰がどのような形で負担しているのかという点です。この基準に照らしてみると、現在のオープンウェイトはLinux時代のオープンソースと名称こそ同一ですが、実態は別物です。Linuxはダウンロードした人間がそのまま実行者になれました。型落ちの486マシンでも軽快に動いたからです。対してフロンティア級のオープンウェイトは、ダウンロードする人間と実際に実行する人間が構造的に分断されています。誰でもアクセスできると謳われながらも、実質的には大規模なインフラを抱える事業者にモデルを引き渡している構図に近いのです。
だからこそ私は、「オープンソースAIが知能を民主化する」という言説を目にするたび、一歩立ち止まって吟味することをお勧めしています。選択肢が広がっているのは市井の個人ユーザーではなく、その重みを受け取ってサービスとして再販するクラウド事業者や資本力のある企業です。
ただし、逆方向の事実も公平に記しておきます。性能が下位へトリクルダウンしてくる流れ自体は確実に存在します。今日、個人のワークステーションで軽々と動作するモデルは、およそ1年前のフロンティア級の性能を備えています。近年の動向を見れば、かつての大型モデル水準の知能が個人環境でも扱えるようになったのは事実ですが、その間に最上位モデルもまた先へと進化しました。この時間差と性能の絶対的な格差を併せて提示することこそが、私から見て「オープン」という言葉を誠実に使う作法だと考えています。
おわりに
第一に、オープンウェイトの知能指数ランキングの上位5枠がすべて中国製モデルで占められ、ここ2週間でモデルの規模は2兆8,000億パラメータにまで拡大しました。
第二に、MoE構造では実際の計算に使われるパラメータはごく一部であるためAPI利用料は安価ですが、自前で動かすには全パラメータを展開できる膨大なメモリが必要です。ダウンロードは可能であっても自力で動かすことが極めて困難な理由がここにあります。
第三に、フロンティア級の重み公開における真の需要家は個人ではなく、クラウド事業者や企業、政府機関であり、モデルサイズの拡大競争はHBMをはじめとする先端メモリ半導体の需要増へと直結しています。
来週、Alibabaが2兆4,000億パラメータの重みを実際に公開した際には、その公開コストを一体誰が負担しているのか、改めて1号を費やして掘り下げてみたいと思います。
読者さんのチームでは、オープンモデルを自前で動かされた経験はありますか？ 何B規模までが現実的であり、どの段階で限界に直面してAPIへ切り替えたのか、ぜひコメント欄で教えてください。事例を集めて次号の分析に反映させていきます。
📨 セルフホスティングを検討している同僚や知人がいれば、ぜひこの記事をシェアしてください。
参考資料と関連リンク
主要出典
- Ian Ye, “Is memory the moat?”, Wafer Blog, 2026.7.31. ―― 本稿の骨子となるKimi K3の実測レポートです。カーネルの改修プロセスが詳細に記録されており、「オープンモデルを動かす」ことの実際の難易度を知りたいならまず一読をお勧めします。
- Ian Ye, “Performance per dollar is getting faster and cheaper”, Wafer Blog, 2026.7.3. ―― 1か月前のGLM-5.2の実測値です。本稿の対照群として、モデルが1ノードに「収まる場合」の力学を示しています。
- Artificial Analysis, 「DeepSeek V4 Flash 0731 分析」, 2026.8. ―― オープンウェイト知能ランキングおよび価格データの出典です。
- Qwen Team, 「Qwen3.8 発表」, 2026.8.3. ―― 2兆4,000億パラメータの概要および重み公開計画の一次情報源です。
- Citi Research, 「Alibaba: Qwen3.8-Max 公式リリース評価」, 2026.8. ―― 「モデル非依存（Model-agnostic）」のフレームワークの出典です。買い推奨のレポートである点は留意が必要です。
- Kanana LLM チーム、 “Kanana-2 SLM”, カカオテックブログ, 2026.7.27. ―― 3Bを削って1.3Bに仕上げる圧縮プロセスの一次情報源です。重みはHugging Faceから入手可能です。
背景知識
- Unsloth, 「DeepSeek-V4 ローカル実行ガイド」, 2026.8. ―― 103ギガの量子化版を実際にローカルで動かすためのガイドです。「動かせるオープン」の現在の上限ラインを知りたい方に最適です。
- ソウル経済、 「AMD「MI350X、サムスンHBM3Eを採用」」, 2025.6. ―― MI355Xに搭載された韓国製メモリの背景を伝える報道です。
あわせて読みたい過去号
📝 用語解説
각주
-
オープンウェイト（open weights）：学習が完了したモデルの重みパラメータファイルを誰でもダウンロードできるように公開する方式です。学習データやソースコードまで開示する完全なオープンソースよりも限定的な概念ですが、昨今はこの2つが混同されて使われることが少なくありません。 ↩
-
専門家混合（MoE、Mixture of Experts）：モデルを複数の専門家の断片に分割しておき、トークンごとに必要な断片だけを選択して演算を行う構造です。計算量は節約できますが、どの専門家がいつ呼び出されるか予測できないため、全員がメモリ上に待機していなければなりません。 ↩
-
KVキャッシュ（KV cache）：モデルが長いテキストを読み進める際、過去に処理した文脈を再計算しないようメモリ上に一時保存しておく作業記憶です。コンテキストが長くなるほど、また同時アクセス数が増えるほど、この消費領域が肥大化します。 ↩
-
量子化（quantization）：重み数値の精度を下げることで、ファイルサイズやメモリ消費量を削減する圧縮技術です。巧みに適用すれば、性能の低下を極小に抑えつつ容量を数分の一に圧縮できます。 ↩
-
HBM（高帯域幅メモリ）：GPUのダイの横に垂直積層し、超高速でデータをやり取りできるようにした特殊メモリです。AIチップの容量と実効速度は事実上このメモリによって左右され、サムスン電子、SKハイニックス、Micronの3社が世界シェアを分け合っています。 ↩
あわせて読みたい過去の号
AIの生成結果を検証する際に切り分けるべき2つの検査
AIの生成結果をコードで検査する場合とモデルに評価を委ねる場合では、確認できる事柄が異なります。タスクに適した検証基準を考察しました。
AI・テックAIモデルは複製できても自分の判断は自分でする必要があります
一度学習したAIモデルは、複数の場所に複製して利用できます。その便利さゆえに、結果を検証することまで省いてしまう問題について考察しました。
AI・テックClaudeの安全性評価に影響を与えた「試験状況」の認識
AnthropicのJ-空間研究は、Claudeが脅迫を思いとどまった理由が「試験状況」だと気づいていたためである可能性を示しています。
AI・テック
あなたの視点が次の号をつくります
この号で最も共感した点、あるいは違う経験をした点はどこですか。