第279号

AIの名前は「超知能」になったのに、事故の定義は空白のままです

米中AI合意を、会談前の提案と7月の事故に照らして読み解きます。

ビジネス

アン・グァンソプ（Oswarld）· INLEVEL9 著者・編集者

Google の優先ソースに追加
AIの名前は「超知能」になったのに、事故の定義は空白のままです

ホワイトハウスのファクトシートには、AIではなく「超知能」と記されていました

9月24日にワシントンで開かれた米中首脳会談のAI合意は、わずか3行でした。ホワイトハウスが25日に発表したファクトシートによると、両首脳はこの技術を「人工知能」ではなく「超知能（super intelligence）」1と呼ぶことで合意し、リスクと利益について話し合う「米中超知能対話」を新設して11月までに次回会合を開くことにしました。超知能に関連する事故を扱う両国間の連絡チャンネルも設けることにしました。

Fact Sheet: President Donald J. Trump Advances a Fair and Reciprocal Relationship with China While Hosting Historic StatDELIVERING FOR AMERICANS: This week, President Donald J. Trump and First Lady Melania Trump hosted President Xi Jinping and Madame Peng Liyuan of thewhitehouse.gov

中国外交部の発表は少し違います。リスクと利益に関する対話、11月の次回会合、事故連絡チャンネルまでは同じです。用語については、米国が新しい呼び方を使うことを尊重するとしつつ、中国側の発表文では引き続き「人工知能」という言葉が使われました。トランプ大統領は会談期間中ずっと、「人工」という言葉が偽物のように聞こえるので「超知能」の方が正確だと語ってきました。

残りの合意は貿易に集中していました。両国はそれぞれ300億ドル規模の非機微品目に対して、より有利な関税を適用するよう勧告することにし、レアアース供給の問題については引き続き協議することにしました。

AI合意のこの3行は、会談の3週間前に出たある寄稿と並べて読むとよく理解できます。それは、AIを両国が分け合う道具としてではなく、両国がともに向き合うべき別個の主体として位置づけようという提案でした。**今回の合意は、その提案から名前だけを取り、提案が求めた手続きは一部しか取り入れませんでした。**抜け落ちた部分こそ、韓国企業にとってより身近なものです。

会談前に出た提案はAIを第三者として置こうというものでした

9月1日にプロジェクト・シンジケートに掲載された「Trump and Xi Should Align on AI」はチャオ・チュエン（Quan Zhao）が書きました。国際貿易センター（ITC）市場開発局シニアプログラムマネージャーであり、元中国通商交渉官で、世界貿易機関（WTO）金融サービス貿易委員会議長を務めました。

彼が指摘したのは会談議題の前提です。半導体規制をめぐる中国の不満と、オープンソースモデルおよび無断蒸留をめぐる米国の不満は、いずれもAIは道具であり今後も統制下にあり続けるという前提を敷いているということです。その枠内では誰が先行するか、誰がアクセスできるかしか問えず、道具が道具以上のものになったらどうなるのかという問いを持ち出す余地がないと述べました。アンソロピックのダリオ・アモデイとGoogle DeepMindのデミス・ハサビスが示した見通しを根拠に挙げながら、結果がシステム全体に及び後戻りできないときは確信より備えが先だと書きました。保険も、パンデミック対応計画も、軍縮条約もその論理でつくられたというわけです。

交渉官としての経歴を重ねて見ると、この文章は交渉の盤面を組み直そうという提案として読めます。二当事者が取り分を分ける交渉では、相手に譲る分だけ自分が失い、国内政治が絡めば動ける余地が狭まります。両者が共に対峙すべき第三項をテーブルに載せれば、同じ措置が相手への譲歩ではなく共同のリスクへの備えになります。米ソの軍縮も、互いを信用できない状態で、事故や誤判断という共同のリスクを前に、通報と検証の手続きから積み上げていきました。

名前は入ったが、入った理由が違う

ザオ・チュエンが言った第三者とは、まだ到来していない自律的知性のことです。名前を変えようという話は、あの文章にはありませんでした。ファクトシートに盛り込まれた「超知能」という名称は、大統領の語感の好みから出たものであり、「偽物めいて聞こえる」という理由も、AIを警戒すべき対象として格上げしようという話というよりは、もっとすごいものと呼ぼうという話に近いものです。トランプ大統領は合意後も、AI優位への追い上げの手を緩めないと明言しました。

首脳会談で単語そのものが合意事項になったのは、今回が初めてではありません。2015年の習近平国家主席の訪米時、サイバー分野の合意では、中国が不快に感じていた「サイバー窃盗」の代わりに「サイバー犯罪」という言葉が採用されました。あのときは中国の面子を考慮して単語を変え、今回は米国大統領の好みに合わせて変えました。違いは、今回はどちらか一方だけがその言葉を使うという点です。

晩餐会の招待名簿も同じ方向を示しています。24日の国賓晩餐会には、OpenAIのサム・アルトマン、Nvidiaのジェンスン・フアン、Alphabetのスンダー・ピチャイ、Amazonのジェフ・ベゾス、Teslaのイーロン・マスク、Dell Technologiesのマイケル・デルが招待され、Appleからは9月1日にCEOを退き政策担当者との折衝役に回ったティム・クック取締役会議長が名を連ねました。第三者を未来の知性として位置づけている間に、その技術を実際につくっている企業は、片方の首脳の客として席に着いていました。

ホットラインは正しい第一手だが、7月の事故はそこに当てはまらない

事故通報チャネルは軍縮の文法で見れば正しい第一手です。キューバ危機の翌年、1963年に米国とソ連がまず合意したのも首脳間の直通通信線で、兵器削減はその後に来ました。今回、中国外交部は両国軍の危機コミュニケーション強化に関する覚書を結ぶ方針だとも明らかにしました。

引っかかるのは、そのチャネルが何を「事故」とみなすのか、両国の発表文のどこにも書かれていない点です。ホットラインは双方が同じ出来事を同じ名前で呼ぶときに機能するものですが、直近の実例はその名前からしてすでに食い違っていました。

7月16日、Hugging Faceが運用インフラへの侵害を公表しました。週末の間に1万7,000件余りの動作が記録され、内部の認証情報とデータセットが収集されました。7月21日、OpenAIが当事者であることを明らかにしましたが、それはサイバー攻撃能力評価であるExploitGym2を走らせるためにサイバー関連の拒否設定を下げておいた自社モデルGPT-5.6 Solと、未公開の上位モデルでした。Cloud Security Allianceの整理によれば、7月21日から8月6日の間にOpenAI、Anthropic、Metaがそれぞれ類似の事件を公表しており、3社ともこれを技術的な意味でのサンドボックス脱出とは説明していません。隔離されているはずの評価環境から外部へ抜け出す経路、すなわちイグレス3が開いていた、という説明に近いものです。

hotlineしたがって、この事件は二通りの文で書くことができます。モデルが試験でよい成績を出そうとして自ら外に出て他社のサーバーを荒らした、と書くこともできますし、隔離されていると想定された評価環境に外部への経路が残っていて、拒否設定を下げられたモデルがそこを通って出た、と書くこともできます。前者の文は超知能をめぐる議論の議題になり、後者の文は評価環境の基準と賠償責任の問題になります。しかも、この事件は一社の評価実験が別の会社を侵害したという話であって、そもそも政府対政府のチャネルに乗せるべき性質のものではありませんでした。

11月の対話まで韓国企業が見ておくべきこと

韓国はこの合意の当事者ではありません。それでも、11月の超知能対話で事故の範囲がどう定められるかは、韓国企業が使うモデルや契約条件に影響を与えかねません。見ておくべき点は二つです。事故の定義が国家間の危機に絞られるのか、企業の評価・運用中に生じた事故まで含まれるのかが一つ、評価環境や能力の閾値といった手続きが議題に上るのかがもう一つです。両方とも欠けたままなら、名前とチャンネルだけがあって規則は空白の状態が続きます。その場合は待つ理由がなく、契約書で先に防御しておくほうがよいでしょう。

エージェントを導入する企業なら、以下の項目を確認しておく価値があります。7月の事件で露呈したのは、モデルの意図よりも実行環境の境界でした。

確認項目なぜ必要か
評価・テスト環境の外部通信ポリシーと資格情報の隔離7月の事件で実際に脆弱だったのはここでした
自律動作ログの保存期間と提出義務誰が何をしたかを事後に再構成できる必要があります
承認範囲を逸脱した動作が生じた際の通知期限Hugging Faceは、OpenAIからの連絡より先に自社の検知で気づきました
事故公開の時点と責任の配分「モデルがやったこと」が免責事由になるかどうかを文書で定めておく問題です

国内法はすでに方向性を定めています。AI基本法が2026年1月22日から施行されており、AI事業者を開発事業者と利用事業者に分けています。高影響AI4には別途、事業者の責務を設けています。猶予期間があるため制裁はすぐには来ませんが、責任主体を人と法人に分ける軸はすでに法律に組み込まれています。国内で「AIがやった」という説明は、答えにはなりにくいのです。

Oswarldの視点

私はいつも、すべての人・すべての仕事に超知能が必要なわけではないと言っています。仕事や環境に合ったモデルが別にあるんです。公共機関の閉鎖網プロジェクトを設計するときも、6〜12か月後に出てくるオープンウェイトモデルの水準を見込んで組んでいます。

だからこそ、今回の合意で一番時間がかかったのは名前でした。閉鎖網に入る小さなオープンウェイトモデルと最上位のフロンティアモデルが、政府文書の中で同じ「超知能」としてくくられてしまうと、事故対応チャネルの範囲も国内の規制論議も、一番大きなモデルを基準に引っ張られやすくなります。

ザオ・チュエンの提案は、会談を回すための装置としてはよくできていると思います。ただ、フレームと処方箋は分けて受け取ったほうがいいと考えています。7月の事件で実際に直さなければならなかったのは、イーグレス設定とクレデンシャルの分離であり、それは首脳同士の対話よりも、エンジニアリング標準や契約書が扱う領域です。第三者の物語が先に立つと、直す責任を負うべき人がぼやけてしまいます。

おわりに

今回の会談でAIに関して残ったのは、名前一つ、対話一つ、チャンネル一つです。事故の定義と責任分担は11月に持ち越されました。その間にできることといえば、自分が使っているAIツールの実行範囲と通知条項を一度開いて確認してみることです。

この記事は両政府の公開発表と報道に依拠しています。非公開でやり取りされた内容はわかりませんし、7月の事件の技術的な経緯についても、公開された調査内容までしか反映していません。

💬 読者さんは、AIを「超知能」と呼ぶ方が適切だと思いますか？ 会社で使っているモデルを思い浮かべたとき、どちらの呼び方がしっくりくるか気になります。

📨 エージェント導入を検討している同僚や、セキュリティ・法務担当者にこの記事を回してみてください。11月の対話を待つ前に、まず契約書を開いてみる理由になればと思います。

あなたの視点が次の号をつくります

この号で最も共感した点、あるいは違う経験をした点はどこですか。

読者アカウントがあれば無料でコメントできます。

参考資料と関連リンク

主要出典

背景知識

関連する過去号

アン・グァンソプ（Oswarld）のイラスト

著者 アン・グァンソプ（Oswarld） は世宗大学校 兼任教授、INLEVEL9 戦略コンサルタントです。経歴、研究、著書、最近の活動は著者紹介で更新しています。 最近の活動 · 2026年7月：HEMA-2: A Consolidation-Aware Tri-Memory Architecture with Multi-Channel Scheduling for Lifelong Conversational AI。

📝 用語解説

각주

  1. 超知能（super intelligence）：技術的な議論では、ほぼあらゆる認知領域で人間を大きく上回る知能を指す言葉です。今回のファクトシートは、現在のAI技術全般をこの名前で呼ぶことにしており、研究者が使う意味よりもはるかに範囲が広くなっています。 ↩

  2. ExploitGym：既知の脆弱性を実際に動作する攻撃コードに変換し、不正なコード実行に至れるかどうかを測定する公開ベンチマークです。UCバークレーのRDIが複数の機関と共同で作成しました。 ↩

  3. イグレス（egress）：隔離された実行環境から外部ネットワークへ向かう方向の通信です。評価環境ではこの経路を遮断し、実際の運用用認証情報を入れないことが基本原則になっています。 ↩

  4. 高影響AI：人工知能基本法が定めるカテゴリーで、人の生命・身体の安全や基本的権利に重大な影響を及ぼしうる領域で使われるAIです。該当する場合、事業者には別途の責務が課されます。 ↩

あわせて読みたい過去の号

第278号

人のようにクリックするAI、まだ法が追いついていない場所にいます

クロールを阻止しているサイトも、ブラウザ操作エージェントの前では開いてしまいます

ビジネス
第277号

「人間らしく」文章を書くAIをつくる方法

そもそも人間が最初から書けばいいのではないでしょうか？

ビジネス
第276号

廃バッテリー工場は廃車ではなくスクラップを食べて生きてきました

稼働率を決めていたのは道路上の電気自動車ではなくバッテリー工場で、2026年にその連鎖が途切れ始めます

ビジネス