4个公益组织告AI五巨头:先停更几天行不行

旧金山法院:要求冻结前沿模型研发,直到厂商证明AI仍在人类控制内

结论先放最前面:真有人把AI五巨头一起告了。4个公益组织联名,把Anthropic、Google、Meta、OpenAI、SpaceX告上了旧金山高等法院,要求法庭下紧急禁令,冻结前沿模型研发,直到厂商能证明AI仍在人类控制之内。

我就想问一句:AI公司自己天天在台上喊AI很危险,怎么从来没人拦着?危险喊了这么多年,论文写了无数篇,发布会一季一个,结果就是没人伸手。现在有人伸手了,而且是一次性拦了五家,一锅端。

法庭对峙

有人真把五巨头告了

先说被告,把名单念一遍,你感受一下分量:Anthropic、Google、Meta、OpenAI、SpaceX。从聊天机器人到前沿实验室,再到造火箭的,全在一页纸里,一家没跑。这个被告席的阵容,比很多行业峰会的赞助商名单还齐。

再说原告。11月12日,旧金山高等法院。据Public Citizen的公告,立案的四个组织是:Irreplaceable Education Fund、Public Citizen、Heat Initiative、The Alliance for Secure AI。

清一色公益组织,没有一家是做AI的。所以这不是同行内讧,也不是商业互殴,是外界正式下场,把AI安全四个字从舆论场搬进了法庭。

法庭法槌

诉求:先冻结,再证明

法律依据,诉状里写得明明白白:加州不公平竞争法。原告没走产品责任那套老路,没按你的产品造成了什么损失来打,而是按你的做法构成不公平竞争来打。为什么选这条路?我猜是为了绕开举证里最难的部分——你得先证明损失,而损失还没发生。先打做法不对,门槛低一些。

诉求本身,其实就两件事。第一件,冻结:原告要的是一张紧急禁令,把比现在已部署模型能力更强的前沿系统研发,直接按下暂停键。注意这个范围划得很刁:不是禁所有AI,甚至不禁现在的模型,只禁更强的下一批。第二件,证明:等厂商证明系统在人类控制之下,再谈解冻。

你品品这个顺序。不是你先证明、我再放行,而是先冻住,人类控制证明是解冻的门票。换句话说,控制权的举证责任,被硬生生从监管手里、从舆论手里,甩回了厂商自己那边。以前是外界问你们怎么控制它,厂商答我们有安全措施;现在反过来了,厂商得先交答卷,答案交不上来,机器就先停着。

回旋镖

最狠一刀:用你们自己的话告你们

这个案子真正让我挑眉的,不是被告名单有多吓人,而是诉状的弹药从哪来的。答案有点黑色幽默:从被告自己的嘴里来的。诉状直接引用了这些公司自己对极端AI风险的警告。据IntelligenceUnlocked那篇评论的口径,这是整封诉状里最狠的一招。

翻译成人话就是:你自己在发布会上说这东西危险,你自己在公开信里警告过世界,现在你坐被告席,你的演讲、你的PPT、你的公开信,全是呈堂证供。原告一行字都不用编,把被告自己的发言记录一抄,逻辑就自己圆上了。喊危险喊得最响的,被自己喊出来的话砸中了——这就是回旋镖,还是对方自己扔的。

还有个更乐的细节。据该评论自述,那封评论邮件本身,是用Claude起草的。Claude背后的公司Anthropic,就在这案子的被告席上。用被告家的工具,写告被告的文章。AI圈今年最魔幻的一集,没跑了。

赢面有多大

说点现实的。还是据Public Citizen公告的口径:立案是真的,但裁决还没有,被告公司到目前为止也没有公开回应。案子刚开闸,水还深,走向谁都说不好。所以先别急着站队,也别急着替法官下判决书。

我的判断,先放这儿:这个诉讼,大概率赢不了。理由不复杂——比已部署模型更强这句话,法庭上很难量化,谁来定义强多少才算更强?人类控制更是个哲学题,法官画不出那条精确的分界线。指望靠这一案把前沿研究彻底判停,不现实。但赢不了,不等于白打。

它真正的价值在别处:把人类控制四个字,从行业论坛的口号、从发布会的套话,白纸黑字写进了法庭文书。往后这些公司每发布一个新模型,每讲一次安全承诺,这四个字就会跟着出现一次,而且带着案号。口号变成程序,从我们承诺变成法庭问你,这一字之差,是公关稿买不来的。

另外,出庭的代表也值得一提:前新泽西州总检察长Matthew Platkin,代表原告出庭。他的说法很直白——在悲剧发生前,停止开发能脱离人类控制的危险AI系统。把话说到这个份上,说明原告没打算温和地打这一仗,他们要的就是让停止开发这四个字,正式出现在法庭记录里。

照旧运转的机房

行业反应:该路演路演,该烧钱烧钱

再看被告那边,画风有点分裂:一边被五家一起告,一边行程表一点没变。Anthropic的IPO路演照走,据报道认购六倍超额——法庭还没开庭,投资者先把自己的票投了。钱,比谁都快。

SpaceX那边也一样:740亿的机房计划,没见停的意思。你这边诉状写的是先停下来证明,我这边预算表写的是继续加码。同一个时间段,两种动作,看着像两家公司的故事,其实是同一件事的两面:争议在加速,烧钱也在加速。

我的第二个判断,也放这儿:诉讼挡不住资本的节奏。法庭文书和路演PPT,根本不在同一条时间线上。资本看的是下季度和明年,法庭看的是证据链和程序,这俩根本急不在一个点上。所以别指望一张禁令申请,就能让几十亿美金的项目当场熄灯。

不过话说回来,这场对轰,比任何一场发布会都真实。原告要的是暂停键,被告用真金白银回答不暂停。谁对谁错,现在下结论都早了。但围观群众赚到了——以后再看AI安全发布会,背景里会自动响起四个字:人类控制。

等回复

结尾不按套路走。这种新闻的结尾,一般是要升华一下、展望一下、呼吁一下,但我今天真不想。案子就是刚立案,故事才刚开了第一页,现在写展望,等于剧透都没影儿就先写大结局。

我本来想说:等法院回复吧。哦不对,法院还没理,该等的是被告回复。五家被告,要是一个都不回,那就更有看头了。他们哪天要是公开回应了,记得来评论区告诉我,他们到底说了啥。

用Claude派活给Codex:一人团队怎么开双线
下一篇
用Claude派活给Codex:一人团队怎么开双线
Claude管对话验收,Codex干重活:一人团队双线分工
继续下滑 或 点击阅读下一篇
下一篇 用Claude派活给Codex:一人团队怎么开双线 →
站长照片
“

1

”
联系二维码
微信:扫码加企业微信
邮箱:15611497360@aqq.com
手机:15611497360

私信站长

申请退款