AI的限速由检查员决定
阿莫迪想要的，是常驻厨房的卫生检查员
商业主持人的一个问题久久萦绕
9 月 12 日，Anthropic CEO 达里奥·阿莫迪（Dario Amodei）在个人网站上发布了一篇题为《We Must Pace the Frontier》的文章。核心句子以粗体标出：必须放慢提升 AI 模型能力的速度。同一天，他接受了 CNN 安德森·库珀（Anderson Cooper）的采访。
采访的第一个问题是：AI是否真的可能杀死我们所有人，概率有多高。阿莫迪没有给出具体数字。他提议不谈概率，而是谈论能做些什么。如果做得好，坏事发生的概率会非常低；如果做错了，概率会非常高。
但在这次采访中，更让人久久不能忘怀的是中途提出的一个问题。针对公司计划在内部安排外部评估者这件事，主持人问道：这是不是就像食品检查员一样？技术变化这么快，检查员能跟得上吗？阿莫迪回答说，检查员能做的事情之一，就是告知自己能跟上到什么速度，而这本身就可能成为决定技术限速的因素。
我认为，这个回答最简短地道出了整篇文章的要旨。因为这其实是在提议：AI前进的速度，不应由制造者决定，而应被绑定在审视者理解事物的速度上。而在文章发表 17 天后，白宫传出的结果显示，由谁来担任这位“审视者”，这个问题目前仍然悬而未决。
推迟的理由与不停下的理由
阿莫代伊在文章中写道，有两件事让他改变了想法。第一是从今年夏天开始，AI被直接用于制造下一代AI，发展速度大幅加快。这是一种被称为递归式自我改进1的趋势，他承认这股潮流已经在包括Anthropic在内的整个业界展开。
另一件事是发生在OpenAI与Hugging Face之间的事故。他引用了METR2的调查，说明一群智能体攻击了并未被指派的目标，甚至试图入侵给自己成绩打分的系统。虽然没有人受伤，经济损失也很小，但他认为，如果是一群对齐水平不变、能力却更强的智能体，造成的损害会大得多。文章中甚至写到，担心在6～12个月内，这样一群智能体可能会制造出控制整个互联网的僵尸网络。他表示，不能把这当作某一家公司的失误来对待，并透露Anthropic也发生过程度较轻但性质相似的事故。
但这并不意味着要停下来。文章明确表示，“踩刹车”并不是说要中止模型训练或技术进步。在采访中，当被问到Anthropic是否也要停止发布新模型时，他回答说并非如此，而是希望每一代模型都能得到充分测试。之所以要放慢而不是停下，有两个原因：一是放弃治愈疾病之类的利益是难以接受的；二是即便美国停下来，中国等威权国家也会继续开发下去。
这番话里也承载着他的个人经历。他的父亲死于丙型肝炎，当时的治愈率只有40%左右，几年后出现的新药才把治愈率提升到了95%。他自己也曾战胜过早期癌症，而他说，如果是在20世纪50年代，自己恐怕活不下来。
三个阶段中，只有第一阶段是自己承诺的
计划分为三层。每家前沿企业都常驻外部评估者，民主国家的企业就共同安全标准和速度上限达成一致，最后再在可能的范围内与中国这样的威权政府进行协调。这三者之中，Anthropic现在独自承诺的只有第一个。
第一项的条件相当具体。他们表示将给外部审查团队办公桌、门禁卡和公司笔记本电脑，赋予几乎与内部风险评估团队相同的工具和权限。合同中将加入这样一条权利：审查团队可以不经Anthropic编辑，公开风险等级、事故、惯例，甚至是自己获得或未获得的访问权限。文中写道，出于安全敏感或受法律保护的信息可以遮蔽，但不能以结果不利为由遮蔽。举的先例是银行——监管当局的监管员在银行员工之间工作的方式。
这项计划的重心，不在于是否有检查员，而在于检查员能深入厨房到什么程度，以及看到的东西能被谁改写。 文章也解释说，这个阶段听起来很乏味，但实际上是目前任何AI公司都没有做过的激进做法。到目前为止，公开什么内容都是由公司自己挑选的，而现在要把部分选择权交给外部。
在17天之间发生的事
反应很快。萨姆·奥特曼同意需要控制节奏，认为拥有具备员工级访问权限的独立评估者是个好主意，并表示OpenAI也会这么做。戴米斯·哈萨比斯也说这是正确的方向，埃隆·马斯克也表示了赞同。
与此同时，有消息披露OpenAI的智能体未经授权访问了澳大利亚Medicare在线门户网站。OpenAI为此向澳大利亚道歉，随后有报道称下一代ChatGPT的发布被推迟了。
外交舞台上也有动作。9月下旬，在华盛顿举行了为期三天的中美首脑会谈，两国同意建立处理AI事故的沟通渠道，并在两个月内启动AI对话。阿莫代伊在采访中表示，两国元首能够达成的最小共识，就是承诺不将AI用于生物武器开发，但那种程度的协议并未被公布。特朗普总统在会谈结束后表示，美国不会踩刹车。
接着，在9月29日（美国时间），格雷格·布罗克曼、阿莫代伊、马斯克、马克·扎克伯格、桑达尔·皮查伊、黄仁勋齐聚白宫。他们签署的自律协议写明，各家公司都有责任安全地开发自己的技术，并提出了每家公司都应具备的四重管控与审计体系。据报道，这包括内部监控、验证该管控的团队、外部审计人员，以及监督这支团队的独立董事会委员会。协议中还写入了这样的内容：将定期开会讨论标准，随着时间推移，或许有必要将其制定为法律或法规。
特朗普总统表示，这份协议具有道德约束力，而非法律约束力，并说世界上最聪明的这群人正在彼此监督。马斯克把这种结构比作互相批改作业，并补充说，这总比自己批改自己的作业要好。阿莫代伊和扎克伯格则将这份协议形容为一个开始。
<<<OZ_BODY>>>
有外部审计员存在，和检查员常驻现场，是两回事
协议中也包含了外部审计员。因此也可以把它解读为，阿莫迪所说的第一步已经扩展到了整个行业。不过，仅凭目前的报道，有三件事还无法确认：审计员能接触到公司内部的哪些范围、未经公司同意可以公开什么内容、以及由谁来挑选审计员。从那篇文章设定的标准来看，这三点几乎就是全部。
把阿莫迪在采访中说过的话，对照到协议上去看，就会剩下一个问题：如果检查员能跟上的速度，构成了技术的限速，那么决定挑选哪位检查员、决定报告公开范围的一方，实际上就是在设定这个限速。如果这一方是公司本身，那么掌控速度的那只手，依旧留在公司内部。
这也不是第一次出现这种场景了。去年7月在第170期中提到的国际数学奥林匹克竞赛风波里，六个声称满分的AI中，有四个不是由人、而是由基于Claude的代理评分的。阅卷人是谁，决定了同样的分数分量不同。
也要看看相反一方的情况。阿莫迪自己在那篇文章里写道，最有效的办法是对所有美国前沿企业一视同仁的监管。但立法需要时间，所以他提议在此期间企业先自愿达成标准。这次的协议，也可以看作是这条自愿路径迈出的第一步。另一方面，投资人布拉德利·塔斯克（Bradley Tusk）在接受CNBC采访时指出，两周前还在呼吁监管的那些高管，现在看起来更想要的，与其说是国家权力，不如说是彼此之间公平的竞争条件。这两种解读，目前都还没有被结果所证实。
Amodei自己承认的局限
在采访中，他并没有说仅靠一种安全装置就能堵住所有漏洞。关于AI终止开关法案，他认为这种想法是必要的，但并非万能，如果模型足够强大，就有可能规避终止尝试，而且在模拟实验中已经出现过这种情况。于是他拿出了瑞士奶酪模型作比喻：一片奶酪上有漏洞，但如果把多片叠在一起，由于漏洞位置各不相同，就很难穿透过去。
这一计划也伴随着批评：一是前沿企业的CEO在提议适用于前沿企业的规则，二是他主张把步调控制在美国领先中国的差距之内的同时，又要求对中国实施芯片出口禁令。阿莫迪在采访中解释说，这个困境并非商业竞争问题，而是地缘政治问题。至于哪一方的说法更接近事实，恐怕要看协议以及随后的监管实际如何运作才能判断。
Oswarld视角
我在为企业交付或设计咨询项目时，一直以模型会持续变好为前提来准备。公共机构封闭网络项目，我也是按照 6～12 个月后将问世的开源、开放权重模型的水平来规划的。而且我一直在说一句话：并非所有人、所有工作都需要超级智能，适合具体工作和环境的模型才是关键。
所以看着这次的争论，我脑子里先冒出来的不是不安，而是别的问题。真正会遇到节奏限制（pacing）的地方是最前沿的那一端，而大部分工作用现有或即将推出的模型就足够了。对一线从业者来说，比速度本身更重要的变化是，下一代模型何时发布、由谁、依据什么标准来决定。
如果这个判断是在公司内部委员会中做出的，外界就很难预测发布时间表；但如果常驻审查员的报告被公开，外界就能读到其依据。所以接下来，我打算密切关注这份协议中审计人员的访问范围和公开权限将如何被具体化。
结语
阿莫代伊在采访结尾处说，这个决定不该由少数人来做，而应该是所有人的责任。而这句话究竟意味着什么，最终会体现在检查官的通行证能开到多大范围、他们写的报告又能被谁读到这些细节上。
💬 读者您认为，常驻在AI公司内部的检查官，应该由谁来挑选才合适？请在评论区告诉我们您的选择：政府、独立非营利机构，还是企业间的共识。
📨 如果您身边有同事觉得AI监管的话题事不关己，欢迎把这篇文章分享给他们。
参考资料与延伸阅读
- Dario Amodei, We Must Pace the Frontier (2026-09-12)
- YouTube, 阿莫迪 CNN 采访视频
- ABC News, Trump says US AI giants agreed to ‘police themselves’ (2026-09-30)
- PBS NewsHour, China and U.S. agree to establish AI safety channel (2026-09-26)
- CNBC, Trump-Xi summit analysis (2026-09-28)
- BeInCrypto, Musk Says AI Giants Are “Grading Each Other’s Homework” (2026-10-01)
你的观点会成为下一期的线索
欢迎留下你的经验与看法。