大家都在谈AI安全，账单却要别人来付
主张放慢速度的一方，和主张只管往前冲的一方，用的是同一个词。分歧在于谁来买单。
商业一周之内，“安全”的含义变了四次
读者，过去一周里，AI行业中出现频率最高的词是“安全”。但每当说话的人换了，这个词所指的对象也跟着变了。
9月12日星期六，Anthropic的达里奥·阿莫迪（Dario Amodei）发表了一篇文章。内容是：前沿实验室应该有意将提升模型能力的速度放慢1到2年左右，为安全与对齐1研究争取追赶的时间。几个小时之内，萨姆·奥特曼就发文表示赞同，埃隆·马斯克也附和说“达里奥是对的”。正在起诉奥特曼的马斯克，当天却站到了同一边。
三天后的15日，在Salesforce年度大会Dreamforce的舞台上，黄仁勋把这个提议称为“错误的二选一”。他说，安全与速度可以同时兼顾，既不需要新法律，也不需要新监管。他给行业的建议很简短：“尽快，全速前进。”同一天，马克·扎克伯格在社交媒体上发布了反对的逻辑。他说，没有人会想使用一个不听自己指挥的智能体，所以各实验室早就有充分的动机把模型做得安全。
紧接着17日星期四，Palantir的亚历克斯·卡普出现在CNBC的直播节目中。他表示，这场争论不是安全问题，而是责任问题，并进一步抛出了“国有化”这个词。
四个人都在谈安全。而这四种主张，几乎精确地对应着各自所处的商业位置。这一期我们不打算判断谁对谁错，而是要追踪一下：每种主张背后附着的账单，最终会寄到谁的面前。放慢速度，成本由谁来承担；加速前进出了事故，又由谁来赔付。
没有政府，阿莫迪的提议根本无从谈起
阿莫迪的文章提出了三点建议。第一，让外部独立评估者进入实验室内部，以接近员工的访问权限来审查模型。第二，各实验室共同统一安全标准。第三，对于最危险的能力，最终应设立由政府支持的国际性上限。
值得留意的是第二点。竞争对手之间就“模型开发速度该多快”达成一致，从法律角度看近乎串通。因此，阿莫迪向华盛顿提出请求，希望设立一个范围狭窄的反垄断豁免2，让各实验室即便就安全问题展开讨论，也不会因串通而受罚。文章中也写道，一些对调节速度有效的协调方式，在法律上颇为棘手，需要政府的支持。
如果只有一家实验室放慢速度，这个位置就会被其他实验室占据。所以这个提议从结构上讲，没法靠一家单独完成。放慢速度的成本，虽说是由领先的实验室自己承担，但能把这份承诺捆绑在一起的那根绳子，握在政府手里。问题在于政府的反应。特朗普总统在周末发文称，AI所需要的护栏，唯有强大而聪明的总统才能提供。至少就目前而言，华盛顿似乎并不打算握住这根绳子。
公平地说，阿莫迪在Dreamforce上举了一个汽车公司的比喻。他说，如果竞争对手出了安全事故，比起攻击对方，更应该先检查自己的工厂。他还坦言，说竞争对手“那些人很危险”的诱惑其实很大。也就是说，他本人其实也清楚，自己的提议有可能被解读为针对竞争对手的牵制。
<<<OZ_BODY>>>
黄仁勋和扎克伯格表示不愿承担放慢速度的成本
黄仁勋并没有整体拒绝这项提议。他同意由外部第三方评估前沿实验室的安全性这一部分。他拒绝的是放慢速度。理由是，如果美国放慢脚步，就会把优势拱手让给那些想追上美国AI的国家。
这个解释本身说得通。与此同时，英伟达也是一家实验室建的模型越大、越多，它就能卖出更多芯片的公司。这两个理由并不互相排斥。只是值得指出的是，黄仁勋接受的部分（事后评估）不会减少芯片需求，而他拒绝的部分（速度调节）则会直接减少芯片需求。
扎克伯格的逻辑是市场。他说，用户不会去用不听自己使唤的智能体，不专注于信任与对齐的实验室会掉队。他还补充说，实验室天然有动机想要规避巨大的责任。在这个框架里，账单是事后开的，开给市场和用户。选择权在用户手上，做坏了的公司要么被市场抛弃，要么承担责任，仅此而已。
还有一点值得留意，那就是顺序。主张放慢速度以对齐的一方，正是最接近下一代模型的Anthropic和OpenAI。如果现在就统一放慢速度，眼下的排名就会原地固化。对于正在追赶的一方来说，这份协议不可能受欢迎。
卡普把这一切解读为“账单转移”
卡普的采访显得很散乱，甚至在采访过程中主持人都不得不反复追问他到底是什么意思。不过如果梳理出他论点的骨架，可以归纳为三个阶段。
第一，客户在生气。卡普说，Palantir 的美国企业客户认为，自己的经营方式和数据，也就是自己独有的竞争力，已经进入了模型内部，甚至流向了隔壁的竞争对手。他还主张，封闭式模型的 Token 价格便宜，并不是为了扩大市场，而是为了获取客户的知识产权来改进模型，而对此并没有诚实地公开说明。
第二，因此实验室要承担无限责任。客户可以提起诉讼，而如果像实验室自己警告的那样可能造成全球性的损害，那么能够承担这种风险的机构就只有政府。卡普用两次转移来解释这一点：首先，企业的价值转移到了实验室；接着，为了减轻责任，实验室的价值又转移到了政府。他说，在这个过程中损失最大的，是那些相信“别人是冤大头”的投资者。
第三，责任在先。无论是化学公司还是医院，任何一项事业只要自己制造的东西造成损害，都要承担民事责任，有时甚至是刑事责任，而且不会因为“不知道”就被免除。用卡普的话说，第一道防线是“对自己行为负责”。他认为，率先要求社会层面的监管，就是想要跳过这第一道防线。
这种解读明显存在薄弱环节。Token 折扣是为了收集知识产权，这只是卡普的主张，他并没有拿出证据。各大主要实验室一直在条款中声明，通过企业版 API 输入的数据基本不会被用于训练。而且，迄今为止报道出来的阿莫迪的文章，也只是提到了为协调而设的政府支持和国际性限额，并没有要求国有化或责任限额。卡普自己也承认阿莫迪并没有那样说，只是说“他只是不能那样说而已”。归根结底，“国有化”是卡普自己加上去的解读。
不过，第三阶段的论点却很难轻易略过。如果沿着阿莫迪提出的汽车比喻继续推下去，在汽车产业中，安全的第一道装置并不是行业协议，而是召回制度和产品责任。首先要确定谁来收下事故的账单，然后标准和监管才建立在这之上。而在 AI 的争论中，这个顺序恰恰是空白的。
卡普自己的账单流向哪里
我们有必要再翻转一次卡普的诊断。在“封闭式模型会拿走你的秘密”这一诊断之后，他给出的处方是这样的：把涉及秘密的工作转移到开放权重3模型上，再在其上搭建应用层4，自己进行后训练5。而销售这个应用层的公司，正是Palantir。卡普说，他与英伟达一起开启了这股“主权”潮流，需求量太大，以至于连盟国的请求都无法全部满足。
他所描绘的未来也是同一个方向：企业将混用多种模型，真正涉及秘密的工作交给开放权重模型，而像阿根廷营销文案这类的工作则交给封闭式模型。
这里有意思的是黄仁勋和卡普之间的关系。他们关于监管的说法截然不同：黄仁勋说不需要新法律，卡普则说应当追究更重的责任。但两人都是在“客户在自己的GPU上运行自己的模型”这个世界里赚钱的。说法相反，但账单发出的方向却是一样的——都指向封闭式实验室。
把目前为止的内容整理成一张表，就是这样。
| 谁 | 说了什么 | 由谁承担成本 | 商业位置 |
|---|---|---|---|
| 阿莫迪·奥特曼 | 保持同步的速度 | 领先实验室的时间，允许协调的政府 | 最接近下一代模型的封闭式实验室 |
| 黄仁勋 | 尽可能快，不需要新法律 | 交由事后评估承担的风险 | 随着实验室扩张而销售芯片的公司 |
| 扎克伯格 | 市场会自行筛选 | 做选择的用户，事后责任 | 追赶领先者的一方 |
| 卡普 | 责任优先，最终走向国有化 | 实验室及其投资者 | 销售开放权重之上应用层的公司 |
主张与生意重叠，并不意味着那个主张就是谎言。阿莫迪也提出要放慢自己公司的速度，卡普的责任逻辑同样适用于Palantir自身。只是在各自提出的规则里，自己所承担的那一份份额最小——这一点，至少在听这场争论时值得记住。
<<<OZ_BODY>>>
Oswarld视角
我在为企业设计交付方案或咨询项目时，一直以“模型总会变得更好”为前提来做准备。即便是在为公共机构搭建封闭网络环境时，我也会预判6～12个月后会出现的开放权重模型大致处于什么水平，再据此规划项目。也就是说，比起现在导入的模型，我更看重半年后要更换的那个模型。
所以在读这场争论时，我首先确认的不是谁对谁错，而是这个前提是否会动摇。我的判断是这样的：如果Anthropic和OpenAI真的步调一致地放慢速度，那么放慢的只是加入协议的那些闭源领先实验室。反对协议的一方，以及本来就没在协议桌上的中国开放权重实验室，会继续全速前进。这样一来，闭源最新模型与可下载模型之间的差距，很可能朝着缩小的方向发展。
结果颇具讽刺意味。放慢的提议越是被采纳，企业把机密转移到开放权重上的理由就越充分，而这正是Karp所主张的方向。反过来，如果提议流产，领先实验室会继续保持领先，但Karp所说的责任问题依然原地不动。无论走哪条路，采购方企业需要审视的东西是一样的：不是去看哪个模型被宣传得更安全，而是先弄清楚我们的数据是否会被用于训练，以及出事时合同上写的是谁来承担责任。这周的这场争论里，没有一个人是在为这条条款而争。 <<<OZ_END>>>
结语
卡普在采访中提到了扑克的第一条教训。如果你分不清牌桌上谁是那个冤大头，那冤大头就是你。这句话是对投资者说的，但听在所有关注本周这场争论的人耳朵里，似乎也同样适用。
每个人都提出对自己那份责任最轻的规则，这并不奇怪。做生意的人都会这样。值得留意的是，那些最终要为账单买单的人——把数据输入模型的企业、为这些企业出资的投资者，以及会受到事故影响的公众——在这次争论的舞台上却都没有出现。
💬 你有没有亲自查看过公司目前使用的AI服务条款中关于数据训练和责任划分的条款？如果查过，最让你感到意外的是什么？欢迎在评论区分享。
📨 如果你身边有同事只从标题了解了本周这场AI安全争论，请把这篇文章分享给他们。
参考资料与延伸阅读
Leading AI labs may need to be nationalized because risks are so high, Palantir’s Karp tells CNBC (CNBC, 2026.9.17)