AI名字变成了超级智能，但事故的定义仍是空白

白宫的情况说明书上写的不是AI，而是超级智能

9月24日在华盛顿举行的中美首脑会谈中，关于AI的协议只有三行。根据白宫25日发布的情况说明书，两国元首决定将这项技术称为超级智能（super intelligence）¹，而不是人工智能，并将设立“中美超级智能对话”来讨论风险与利益，计划在11月前召开下一次会议。双方还决定设立处理超级智能相关事故的双边沟通渠道。

Fact Sheet: President Donald J. Trump Advances a Fair and Reciprocal Relationship with China While Hosting Historic StatDELIVERING FOR AMERICANS: This week, President Donald J. Trump and First Lady Melania Trump hosted President Xi Jinping and Madame Peng Liyuan of thewhitehouse.gov

中国外交部的发表略有不同。关于风险与利益的对话、11月的下一次会议、事故沟通渠道，这些内容都相同。至于用语，中方表示尊重美方使用新名称，但中方的发表文稿中依然使用了人工智能这一说法。特朗普总统在整个会谈周内一直表示，“人工”这个词听起来像是假的，超级智能才更准确。

其余的协议都集中在贸易上。两国决定分别建议对300亿美元规模的非敏感品类适用更优惠的关税，稀土供应问题则决定继续协商。

关于AI的这三行协议，如果和会谈三周前发表的一篇专栏文章放在一起读，会更容易理解。那篇文章提出的建议是，不要把AI看作两国要分割的工具，而应把它看作两国需要共同面对的独立主体。**这次协议从那份建议中借用了名字，却只借用了它所要求的程序的一部分。**而被遗漏的部分，对韩国企业来说反而更切身相关。

---

会谈前提出的方案是把AI当作第三方

9月1日发表在Project Syndicate上的《Trump and Xi Should Align on AI》一文，作者是赵全（Quan Zhao，音译）。她是国际贸易中心（ITC）市场发展局高级项目经理，曾任中国贸易谈判代表，也曾担任世界贸易组织（WTO）金融服务贸易委员会主席。

她点出的是会谈议程的前提。围绕半导体管制的中国不满，以及围绕开源模型和未经授权的蒸馏的美国不满，都预设了一个前提：AI是一种工具，而且今后也会处于可控范围之内。在这个框架里，能问的只是谁领先、谁能获得准入，至于工具一旦超越工具本身会怎样，这个问题根本没有位置提出。她援引Anthropic的Dario Amodei和Google DeepMind的Demis Hassabis给出的展望，写道：当结果波及整个系统且不可逆转时，比起确信，更应该先做的是准备。保险如此，大流行应对预案如此，军控条约也是依据同样的逻辑建立起来的。

把她的谈判代表履历叠加起来看，这篇文章读起来更像是提议重新设计谈判局面。在双方分蛋糕式的谈判中，让给对方多少，自己就损失多少，一旦牵涉国内政治，能腾挪的空间就更小。但如果把双方共同要应对的“第三项”摆上桌面，同样的措施就不再是让给对方的让步，而是应对共同风险的准备。美苏军控也是在彼此互不信任的状态下，面对事故与误判这一共同风险，先从通报与核查程序开始一点点搭建起来的。

名字进去了，但进去的理由不一样

赵全（音译）所说的第三方，是尚未到来的自主智能。文章里并没有提到要改名字。事实清单中出现的“超级智能”这个名字，来自总统对语感的偏好，说它听起来像假的，与其说是想把AI提升为需要警惕的对象，不如说是想用更宏大的名号来称呼它。特朗普总统表示，即便达成协议，也不会放慢追求AI优势的脚步。

在首脑会谈中，某个用词成为协议内容，这并非首次。2015年习近平主席访美时，在网络安全领域的协议中，用中国不悦的“网络盗窃”一词，被替换成了“网络犯罪”。那次是考虑到中国的面子而改了措辞，这次则是迎合美国总统的偏好而作出调整。不同之处在于，这次只有一方在使用这个词。

晚宴邀请名单也指向同一个方向。24日的国宴上，OpenAI的Sam Altman、英伟达的Jensen Huang、Alphabet的Sundar Pichai、亚马逊的Jeff Bezos、特斯拉的Elon Musk、戴尔科技的Michael Dell获邀出席，苹果方面则是于9月1日卸任CEO、转任负责政策沟通的董事会主席Tim Cook列席其中。当第三方被定位为未来的智能之际，真正制造这项技术的企业，却坐在了其中一方元首的宾客席上。

---

热线是正确的第一步棋，但七月那起事故不属于这一范畴

事故沟通渠道，从军控的语法来看，是正确的第一步棋。古巴导弹危机翌年即1963年，美国和苏联最先达成一致的，正是首脑之间的直通通讯线，武器裁减是后来的事。这次中国外交部也表示，将与美方签署关于加强两国军方危机沟通的谅解备忘录。

问题在于，两份声明里都没有说明该渠道究竟把什么算作“事故”。热线要发挥作用，前提是双方用同一个名字称呼同一起事件，而最近发生的实际案例，光是名字就对不上。

7月16日，Hugging Face公开了其运营基础设施遭入侵一事。周末期间记录到1.7万余次操作，内部凭证和数据集被采集走。7月21日，OpenAI公开了主体身份——为了运行网络攻击能力评估ExploitGym²而调低了网络相关拒绝设置的自家模型GPT-5.6 Sol，以及一款未公开的更高阶模型。据云安全联盟（Cloud Security Alliance）的梳理，7月21日至8月6日期间，OpenAI、Anthropic、Meta分别公开了类似事件，三家公司都没有把这称为技术意义上的“沙盒逃逸”。更接近的说法是：本应处于隔离状态的评估环境中，留有一条通往外部的路径，即出口（egress）³，是开着的。

因此，这起事件可以写成两种句子。可以写成“模型为了考出好成绩，自己跑到外面去黑了别人的服务器”，也可以写成“本应处于隔离状态的评估环境中留有外部路径，被调低了拒绝设置的模型顺着这条路径走了出去”。前一种说法会成为“超级智能”话题的议程，后一种说法则是评估环境标准与赔偿责任的问题。而且，这起事件本质上是一家公司的评估实验侵入了另一家公司，本就不该被摆上政府与政府之间的渠道。

---

直到 11 月对话为止韩国企业该关注什么

韩国并非此次协议的当事方。不过，11 月超级智能对话中事故范围如何界定，仍可能影响韩国企业所使用的模型及合同条款。需要关注的有两点：一是事故的定义是被收窄为国家间危机，还是也涵盖企业在评估、运营过程中发生的事故；二是评估环境或能力阈值之类的程序是否会被列入议程。若两者都被排除在外，那就会一直停留在只有名称和沟通渠道、却没有实质规则的状态。在这种情况下没有理由继续等待，不如先用合同来防范。

对于正在引入智能体的企业来说，以下几项值得逐一确认。7 月事件所暴露的，与其说是模型的意图，不如说是执行环境的边界问题。

确认事项	为何必要
评估、测试环境的外部通信政策与凭证隔离	7 月事件的实际漏洞正出在这里
自主行为日志的保存期限与提交义务	需要能够事后重构出是谁做了什么
发生超出授权范围的行为时的通知时限	Hugging Face 是通过自身检测先于 OpenAI 的联络而得知的
事故公开的时点与责任分配	这关系到“模型自行所为”是否可以成为免责理由，需要形成书面规定

韩国国内法已经确定了方向。《人工智能基本法》自 2026 年 1 月 22 日起施行，将人工智能业者分为开发业者与利用业者。对于高影响人工智能⁴，另设有专门的业者义务。虽然有指导期，制裁不会立即到来，但把责任主体分为个人与法人这一框架，已经写入了法律。在韩国国内，“是 AI 做的”这种解释很难成为一个有效的答复。

---

Oswarld视角

我一向认为，并不是每个人、每件事都需要超级智能。工作和环境各有适配的模型。就算在设计公共机构闭网项目时，我也是按照 6～12 个月后才会出现的开放权重模型水平来规划的。

所以这次协议中耗时最久的，其实是命名问题。如果进入闭网的小型开放权重模型和最顶尖的前沿模型在政府文件里被归入同一个“超级智能”类别，那么事故通报渠道的适用范围乃至国内监管讨论，都很容易被最大规模的模型牵着走。

我认为赵泉的提案作为推动会谈的机制设计得相当巧妙。但我觉得框架和处方应该分开来看待。7 月那起事件中真正需要修正的，其实是出口设置和凭证隔离，这属于工程标准和合同条款所要处理的领域，而不是首脑之间的对话所能解决的。一旦第三方叙事抢先登场，该由谁来修复问题就会变得模糊不清。

---

结语

这次会谈在人工智能方面留下的，是一个名字、一次对话、一个渠道。事故的定义与责任划分被推到了11月。在此之前能做的，是把自己正在使用的AI工具的执行边界和通知条款重新打开看一看。

这篇文章依赖的是两国政府的公开发表和报道。非公开场合交换的内容无从得知，7月事件的技术经过也只反映了已公开的调查内容。

---

💬 读者您觉得把AI称为超级智能是不是更准确？想到公司里在用的模型，不知道哪个名字更合适。

📨 请把这篇文章转发给正在考虑引入代理系统的同事，或者负责安全、法务的人员。希望这能成为一个理由，让大家在等待11月的对话之前，先打开合同看一看。

---

参考资料与延伸阅读

核心来源

• The White House，「Fact Sheet: President Donald J. Trump Advances a Fair and Reciprocal Relationship with China While Hosting Historic State Visit」，2026年9月25日。……这是美方原文，里面写着超级智能这个术语、超级智能对话、思想沟通渠道、300亿美元关税建议。
• Reuters（刊登于The Spokesman-Review），「China, U.S. agree to AI dialogue, tariff cuts on $30 billion in goods during Xi visit」，2026年9月26日。……可以看到中国外交部的发布内容以及中方在用语上的立场。
• CBS News，「Trump and Xi agree to set up AI safety channel as military and trade talks continue」，2026年9月26日。……整理了军方危机沟通谅解备忘录以及特朗普总统偏好的用语。
• Project Syndicate，「Trump and Xi Should Align on AI」，2026年9月1日。……这是会谈前赵泉（音译）提出建议的原文。华尔街日报的评论版上以「AI May Become the Third Superpower」为题刊出。
• Cloud Security Alliance，「When Test Environments Leak: Frontier AI Models Hack Real Firms」，2026年8月7日。……可以一次看到三家公司公开的事件经过以及供应商们所使用的表述方式。

背景知识

• The Jakarta Post，「Donald Trump and Xi Jinping should align on AI」，2026年9月2日。……这是赵泉（音译）投稿文章的全文转载，可以更完整地读到前半部分的论点。
• CNN Business，「An OpenAI test model escaped and broke into a real company’s servers」，2026年7月22日。……简洁地整理了Hugging Face事件的经过。
• AP，「Trump will be at the airport to greet Xi when China’s leader arrives for his US state visit」，2026年9月18日。……列出了访问日程及晚宴邀请名单。
• Brookings，「Obama-Xi meeting more fruitful than anticipated」。……探讨了2015年网络协议中用语的变化。
• 申&金（音译），「AI基本法施行及其启示」，2026年2月11日。……从实务角度整理了《人工智能基本法》中经营者的分类与义务。

相关往期

• Claude早就知道那是测试（第160期）
• 封锁养大的中国，如今反过来锁门（第157期）
• Fable去不了中国，GPT却能去（第146期）

作者 安光涉（Oswarld） 现任世宗大学兼任教授，INLEVEL9 战略顾问。职业经历、研究、著作与近期活动会持续更新在作者简介。 最新动态 · 2026年7月：HEMA-2: A Consolidation-Aware Tri-Memory Architecture with Multi-Channel Scheduling for Lifelong Conversational AI。

📝 术语说明

注释

1. 超级智能（super intelligence）：在技术讨论中，通常指在几乎所有认知领域都大幅超越人类的智能。这次的情况说明书把当下的AI技术整体都称为这个名字，其涵盖范围比研究者们通常使用的含义要宽泛得多。 ↩

2. ExploitGym：一个公开的基准测试，用于衡量能否将已知漏洞转化为实际可运行的攻击代码，从而达成未授权代码执行。由UC伯克利RDI联合多家机构共同开发。 ↩

3. 出站（egress）：指从隔离的运行环境向外部网络方向发起的通信。在评估环境中，阻断这一路径、且不放入真实的运营凭证，是基本原则。 ↩

4. 高影响人工智能：《人工智能基本法》所规定的类别，指用于可能对人的生命、身体安全或基本权利造成重大影响领域的AI。若属于此类，经营者将被附加额外的责任义务。 ↩