把地图放大到日内瓦,你会看到万国宫门前那一排旗杆,十一月的风把旗子吹得各有各的方向。这一周,几栋楼里的会议室讨论的东西叫「自主武器」,外界更常叫它「杀人机器人」。会散了,桌上没有签字笔,只留下一句:开始讨论选项。
据 NPR 报道,俄罗斯、以色列和美国被视为主要的阻碍方;美国此前提出,用五年时间先谈不具约束力的指南。红十字国际委员会希望一年内就出现有法律约束力的规则,这个诉求得到联合国秘书长与教皇的支持。两边的距离,不在措辞,在「约束力」三个字上。
最后落下来的妥协是:各国在两年内提出监管提案,其中一部分规则可以留作「可选」。会议室里没有人反对这句话,因为「可选」这两个字,谁都能带回去交差。


两份文本,隔着一道门槛
一份文本写的是「应当」:应当禁止、应当审查、应当有人负责。另一份写的是「可以」:可以采纳,可以参照,可以自行决定。在国际场合,这两个词之间隔着一整套执行机制——有没有人查、查到了怎么办、不遵守会不会有代价。
有约束力的规则意味着主权里让出一小块:让别人进来看你的程序、你的测试记录、你的采购清单。不具约束力的指南意味着一切照旧,只是多了一页纸。
所以会议室里真正谈的不是条款,而是这一小块让不让。让了,等于承认别人有资格看你的家底;不让,等于承认这份文件只是写给后人看的心意。

难的不是写规则,是三个问题
第一个是定义。什么叫「自主」?一枚导弹能自己修正航线算不算?一套目标识别系统只给出建议、由人按下按钮,又算不算?定义松一格,覆盖的武器少一批;定义紧一格,起草的人自己先吵起来。
第二个是核查。谁能进实验室看代码,谁来看训练数据,谁来判断一套系统在战场上到底做了什么。武器不像药品,没有统一的临床试验;它的真实表现,往往只在用过之后才被别人知道。
第三个是利益。已经部署的人,不想被限;还没部署的人,不想先被限。谈判桌上有一句几乎不用明说的话:先定的规则,通常就是先跑的人不愿意接受的那一套。

另一种声音:核查追不上
前谷歌 CEO 埃里克·施密特在《经济学人》的一段视频里讲过大意如此的话:AI 的竞赛没法互相暂停,核查也追不上技术的速度。这句话放在自主武器上,像一句提前写好的注脚——不是没人想停,是没人相信别人会停。
我不完全同意他的判断。核武器时代,人类还是造出了核查机制,靠的是漫长的时间、巨大的代价,和几次差点出事的惊吓。但 AI 的时间尺度不一样:一套系统几个月就能换一代,条约常常要谈几年。
这个错位,不是我给出的结论,是会议室里没人愿意先承认的前提。承认它,就得承认规则天生慢半拍;不承认它,就得继续用「可选」两个字撑住场面。

柏林的另一场发布会
同一周的柏林,另一处场地。十一月十一日,军工初创企业 Helsing 在 Kraftwerk Berlin 发布 AI 目标识别系统 Clarity。这地方平时办电子乐演出,据《卫报》报道,当地乐迷和电子乐社区到场抗议,场地方随后致歉。
抗议的人没有反对算法本身,他们反对的是这个场地。一个听 techno 的地方,被借去发布一套用来识别目标的系统,这笔账算在场地和赞助方头上。这种愤怒很具体,也很朴素:你可以做这门生意,但别用我们的墙。
军工 AI 走进消费审美的空间,这件事比任何一条条款都说明问题。技术的边界不是画在实验室里的,是画在街上、画在海报上、画在一张演出场地的租约里。

留白:规则可以「可选」
会议结束那天,日内瓦大概还是阴天。代表们带回去的文件上,一部分条款写着「可选」。这不是失败,也不是胜利,它只是把分歧原样记录下来,交还给两年后的下一次会议。
一份规则如果可以选择性遵守,它更接近一份意向声明。声明也有用,它至少让「要不要守」变成一个必须回答的问题。问题在于,谁被问,谁可以不答。
把镜头拉远,日内瓦的湖面还是那片湖面。会议室里发生的事,很少当场改变什么。它们改变的是几年后某个人在某个时刻,还能不能问出一句「这合规吗」。这一次,答案是:看情况。