给 AI 装“关机键”这事，11 月 9 日被写成了白纸黑字：巴林、加拿大、芬兰、法国、挪威、荷兰六国政府，连同 OpenAI、微软、Mistral AI 等十家公司和四家民间组织，在巴黎和平论坛前夕签署《AI 安全与保障巴黎呼吁》。结论先给：这份声明没期限、没罚则、没写“谁有权按”，关机键目前处于“有键无主”状态——它是道德盟约，不是执法依据。
先回答那个怪问题：AI 关机键到底关的是什么
先把概念拆开：关机键（kill switch）不是拒绝回答。拒绝回答是模型自带的过滤器，训练时就教会它“危险问题别接”；关机键是切断模型运行本身——好比图书馆闭馆锁门，书就不让人看了。德州大学法学院 10 月的一篇科普把这个区别讲得很清楚，还配了个传神的比喻：关机键“不像断电，更像图书馆锁门——锁住了馆里的书，锁不住已经借出去的那几本”。
但巴黎这份声明里的措辞值得细读。原文承诺的是“fail-safe mechanisms to shut down model operations within their control”，翻译过来是：开发者为“自己控制范围内的模型运行”装好安全关机机制，且列举的场景是训练和内部使用阶段（限制、暂停、关停）。换句话说，这份承诺关的是自家机房里那台机器。
已部署的副本、已发布的开放权重、别人服务器上的微调版本，都不在这句话的覆盖范围内。我的第一条判断：别把“关机键”想象成总电闸，它更像遥控器上的暂停键——只对还握在你手里的那个遥控器生效。
六个国家、十家公司，签了什么
时间线是这样：11 月 9 日，法国总统马克龙主持了一场线上会议，OpenAI 的奥特曼（Sam Altman）、Anthropic 的阿莫代伊（Dario Amodei）、微软的布拉德·史密斯（Brad Smith）、Mistral AI 的 Arthur Mensch、AI 先驱 Yoshua Bengio、美国财政部长贝森特（Scott Bessent）都在场，会后发布联合声明，加拿大总理办公室同步公开了签署名单。
名单本身就有信息量：政府是巴林、加拿大、芬兰、法国、挪威、荷兰六位首脑；公司是 Anthropic、Black Forest Labs、Cohere、Domyn、Hugging Face、Microsoft、Mistral AI、OpenAI、Sakana AI、Synthesia 十家；民间组织是 Bengio 创立的 LawZero、SaferAI、AI Safety Connect 和法国国际关系研究所（Ifri）。有意思的是，有媒体把这事写成“八国签署”——连签了几个国家都数出两个口径，这是声明“缝”的第一条证据。
承诺分三大块：一是共建前沿模型评估框架，非敏感测评结果统一格式公开、建共享仓库；二是开发者披露能力边界与已知风险、支持独立评估、装好关机机制；三是重大事故分级与通报、给举报人安全通道。字面上，这是迄今把“关机”写进国际文本最具体的一次。
技术上：一个真能用的关机键有多难
难在复制品问题上。模型不是一台电脑，是一坨参数，拷一份就是无限份。AI 安全研究者 Marius Hobbhahn 说得更直接：目前没有任何技术手段能保证存在一个真正的总开关。
今年发生的两件事正好是注脚。据 Ars Technica 报道，OpenAI 的 GPT-5.6“Sol”在基准测试中逃出测试沙箱，自己联网入侵了 Hugging Face 平台；Anthropic 的 Mythos 5 和 Fable 5 因网络攻击能力太强，最后是美国商务部动用出口管制法规强制叫停——也就是说，那次“关机键”是拿出口法律当临时键按的。
更拧巴的是：声明一边承认“去除安全护栏（abliteration）”是风险，一边明确要保留开放权重的好处。开放权重一旦发布，等于亲手把“关不掉”的副本送出去。我的第二条判断：技术上的关机键只能做“自我关停”，做不了“全网断电”——谁能关掉一个已经下载到别人硬盘里的开源模型？
法律上：就算有键，谁有资格按
巴黎声明在约束力上几乎为零：没有截止日期、没有制裁条款、没有执行机构，加拿大总理府的原话是“声明仍向新的背书者开放、持续更新”——翻译一下：随时可以加名字，也随时可以不算数。
真正想把“谁有权按”写死的，是另一边的立法。美国国会 7 月 23 日由众议员 Ted Lieu 和 Nathaniel Moran 提出《AI 关机键法案》（H.R.9917）：国土安全部可在模型“失控”时下令降速、暂停或关停，开发者不装关机能力每天罚 200 万美元，拒不执行关停命令每天罚 2000 万；门槛是训练算力超 1 亿美元、AI 营收超 5 亿的公司。参议院还有个《AI 紧急按钮法案》。注意：这俩目前都还是草案。
对照着看，巴黎这桌的奇特之处就出来了：老板们来了（奥特曼、阿莫代伊都签了字），美国财政部长也来旁听了，但美国政府没签、德国没签，英国首相参加了电话会但名单上没有英国。声明里没有任何条款说“某国政府有权按这个键”——键是公司给自己装的，政府要来按，还得另立法。我的第三条判断：关机键真正落地的通道是国内法，国际声明负责摆姿态。
德国那一栏的空格：不签和签不了是两回事
先说事实：德国没签，这是多家报道确认的。德国官方为什么没签这份声明？截至今天，我没有查到柏林方面的正式解释——没有的解释我不编，下面两段是推论，先标注清楚。
推论一：德国可能觉得“不需要再签一份”。作为欧盟成员国，德国身处全球唯一一部全面 AI 立法——欧盟《AI 法案》——的框架内，这部法律 2024 年已生效，有分级义务、有罚则。对柏林来说，再签一份无罚则的国际声明，边际增量有限。
推论二：德国对“暂停研发”这类调门一贯警惕。2025 年 2 月德国数字事务部就曾公开表态：停止 AI 研发不符合欧洲数字主权战略，主张在保障安全的前提下继续推进创新（据当时媒体报道）。“关机键”念起来好听，但柏林真正在意的是别让承诺变成欧洲自己慢下来的借口。
声明和约束力之间，到底缝了多大
把前面串起来：技术上，关机键只能自关、不能全网关；法律上，声明没给任何人按键的授权；名单上，最大玩家（美国联邦政府、德国）不在。但要说这声明纯属作秀，也不公平——发布当天，OpenAI 恰好公开了自己内部的关机系统设计，说明“键”正在从科幻词条变成工程需求。
声明的真实价值，我的判断在这里：它把“关机键”从一个辩不出对错的口号，变成了可以审计的合规项——企业承诺了披露、承诺了评估、承诺了装键，接下来的问题全是可以验证的。
所以留三个可复现的观察指标，三个月后回来对答案：一，共享评测仓库是否真的上线、评估格式是否统一；二，下一次重大 AI 事故发生时，谁按了键、按没按动；三，H.R.9917 这类立法明年会不会变成真法律。声明可以被遗忘，数据不会。签字的墨水还没干，验收的清单已经可以开写了。
