日内瓦谈完,规则写成了「可选」

自主武器监管没谈拢,各国同意继续谈。

把地图放大到日内瓦,你会看到万国宫门前那一排旗杆,十一月的风把旗子吹得各有各的方向。这一周,几栋楼里的会议室讨论的东西叫「自主武器」,外界更常叫它「杀人机器人」。会散了,桌上没有签字笔,只留下一句:开始讨论选项。

据 NPR 报道,俄罗斯、以色列和美国被视为主要的阻碍方;美国此前提出,用五年时间先谈不具约束力的指南。红十字国际委员会希望一年内就出现有法律约束力的规则,这个诉求得到联合国秘书长与教皇的支持。两边的距离,不在措辞,在「约束力」三个字上。

最后落下来的妥协是:各国在两年内提出监管提案,其中一部分规则可以留作「可选」。会议室里没有人反对这句话,因为「可选」这两个字,谁都能带回去交差。

会议室与机械臂

两份摊开的文件

两份文本,隔着一道门槛

一份文本写的是「应当」:应当禁止、应当审查、应当有人负责。另一份写的是「可以」:可以采纳,可以参照,可以自行决定。在国际场合,这两个词之间隔着一整套执行机制——有没有人查、查到了怎么办、不遵守会不会有代价。

有约束力的规则意味着主权里让出一小块:让别人进来看你的程序、你的测试记录、你的采购清单。不具约束力的指南意味着一切照旧,只是多了一页纸。

所以会议室里真正谈的不是条款,而是这一小块让不让。让了,等于承认别人有资格看你的家底;不让,等于承认这份文件只是写给后人看的心意。

空旷的会议室

难的不是写规则,是三个问题

第一个是定义。什么叫「自主」?一枚导弹能自己修正航线算不算?一套目标识别系统只给出建议、由人按下按钮,又算不算?定义松一格,覆盖的武器少一批;定义紧一格,起草的人自己先吵起来。

第二个是核查。谁能进实验室看代码,谁来看训练数据,谁来判断一套系统在战场上到底做了什么。武器不像药品,没有统一的临床试验;它的真实表现,往往只在用过之后才被别人知道。

第三个是利益。已经部署的人,不想被限;还没部署的人,不想先被限。谈判桌上有一句几乎不用明说的话:先定的规则,通常就是先跑的人不愿意接受的那一套。

沉思的旁听者

另一种声音:核查追不上

前谷歌 CEO 埃里克·施密特在《经济学人》的一段视频里讲过大意如此的话:AI 的竞赛没法互相暂停,核查也追不上技术的速度。这句话放在自主武器上,像一句提前写好的注脚——不是没人想停,是没人相信别人会停。

我不完全同意他的判断。核武器时代,人类还是造出了核查机制,靠的是漫长的时间、巨大的代价,和几次差点出事的惊吓。但 AI 的时间尺度不一样:一套系统几个月就能换一代,条约常常要谈几年。

这个错位,不是我给出的结论,是会议室里没人愿意先承认的前提。承认它,就得承认规则天生慢半拍;不承认它,就得继续用「可选」两个字撑住场面。

夜晚的场地外墙

柏林的另一场发布会

同一周的柏林,另一处场地。十一月十一日,军工初创企业 Helsing 在 Kraftwerk Berlin 发布 AI 目标识别系统 Clarity。这地方平时办电子乐演出,据《卫报》报道,当地乐迷和电子乐社区到场抗议,场地方随后致歉。

抗议的人没有反对算法本身,他们反对的是这个场地。一个听 techno 的地方,被借去发布一套用来识别目标的系统,这笔账算在场地和赞助方头上。这种愤怒很具体,也很朴素:你可以做这门生意,但别用我们的墙。

军工 AI 走进消费审美的空间,这件事比任何一条条款都说明问题。技术的边界不是画在实验室里的,是画在街上、画在海报上、画在一张演出场地的租约里。

阴天的湖面

留白:规则可以「可选」

会议结束那天,日内瓦大概还是阴天。代表们带回去的文件上,一部分条款写着「可选」。这不是失败,也不是胜利,它只是把分歧原样记录下来,交还给两年后的下一次会议。

一份规则如果可以选择性遵守,它更接近一份意向声明。声明也有用,它至少让「要不要守」变成一个必须回答的问题。问题在于,谁被问,谁可以不答。

把镜头拉远,日内瓦的湖面还是那片湖面。会议室里发生的事,很少当场改变什么。它们改变的是几年后某个人在某个时刻,还能不能问出一句「这合规吗」。这一次,答案是:看情况。

微信说句话就给你做个工具?我先信三分
下一篇
微信说句话就给你做个工具?我先信三分
微信桌面Agent内测:云端出代码、本地不留文件,普通人也能做工具
继续下滑 或 点击阅读下一篇
下一篇 微信说句话就给你做个工具?我先信三分 →
站长照片
“

1

”
联系二维码
微信:扫码加企业微信
邮箱:15611497360@aqq.com
手机:15611497360

私信站长

申请退款