过去数日,一起发生在AI行业内部的辞职事件在中文社交平台被反复转发。故事的主角并非匿名人士,而是二十七岁的预训练研究员 Jacob Coxon。有国内内容账号在处理这条消息时,只用了一句“Anthropic 的一位研究人员”,既未披露姓名,也未提及背景,很容易被读者当成网络传言。对照 Fortune、Telegraph 以及 Anadolu 三家媒体的原始报道,才能确认此人的真实身份与研究履历。

研究者背景:OpenAI轮岗到Anthropic,专攻最底层预训练

从公开信息来看,Coxon 并非刚踏进这个领域的新手。按照 Fortune 的叙述,他此前三年持续专注预训练方向,第一段履历落在 OpenAI,最近一段则是在 Anthropic。所谓预训练,指的是大模型研发中开支最庞大、处于架构最底层面的环节,直接决定模型能力的上限,ChatGPT 与 Claude 背后支撑能力的基础都是在这一阶段形成的。正因如此,一位先后任职于这两家公司、且都深度参与预训练的人公开斥责两家公司都在冒险,他与圈外评论者随口批评的性质完全不同。

OpenAI前研究员辞职炮轰:AI圈都在赌命,Anthropic还拒绝英国审查?

辞职帖子原话:公司奔向自我改进超级智能,押上所有人的命

Coxon 辞职当天发布的原始帖子,可以在 J.P. Morgan 一份行业备忘录转述的文字中逐一核对。帖子内容的大意是:他当日从 Anthropic 离职,之前三年分别在 OpenAI 与 Anthropic 从事预训练研究,这两家机构并未采取负责任的行动,它们或许会以加速度走向能自我提升的超级智能,而这相当于把每个人性命放到赌桌上。

值得关注的是,他的批评没有限定于单一对象。最初由 OpenAI 转投 Anthropic 时,外界一般把后者视作以对齐与安全为旗帜的“安全阵营”。可 Coxon 两边都干过,结论是两边都不达标。这种情形正是事件最令人心里发紧的部分——以为换家公司就能获得安全保障,转身后却发现整个赛道原有走向已出现偏差。

OpenAI前研究员辞职炮轰:AI圈都在赌命,Anthropic还拒绝英国审查?

时间点微妙:9月底签自愿承诺,模版与行动互相矛盾

时间分布上存在一个巧合。Coxon 在九月初辞职,而中文社区这两天才集中转载此事,原因与九月底的一则动态重合。据核实,九月二十九日那天,谷歌、Anthropic、OpenAI、英伟达等几家美国头部企业的负责人汇聚白宫,共同签署了一份名为《超级智能协议:前沿责任联合承诺》的文件。就表面来看,这是一种企业主动发起的承诺,表示训练和部署前沿模型时会遵循若干安全条款。

但协议刚签,Coxon 这类公司内部人士的公开辞职就被拿出来重新讨论。行业的公开表态是在举手许诺责任,研究一线的人则直接指责这两者在演戏——二者摆在一起,产生的落差很难不引人联想。

OpenAI前研究员辞职炮轰:AI圈都在赌命,Anthropic还拒绝英国审查?

拒绝英国AISI测试:自愿承诺与监管现实的又一次落差

Telegraph 的报道还提供了一处细节:同一时期有消息传出,Anthropic 拒绝让英国人工智能安全研究所(AISI)获取其最新版本技术,以完成外部测试。如此,一边是遵守白宫自愿承诺,一边则把新版本模型挡在英国监管机构测试门户之外——这种操作让 Coxon 此前那段表述多了一重获信依据。

此后 Anthropic 内部的反馈也颇具意味。J.P. Morgan 同份备忘录写到,有一名叫 Evan 的同事在公开场合回应,大意是承认 Jacob 讲的有道理,并透露大家由衷认为 AI 真有可能造成全人类灭亡,而他本人估计十年内这件事发生的几率超过百分之十。值得注意的是,Evan 发声时人仍留在这家公司。业内对此的观察是:留下来的人还公开承认风险大于一成,这种状况反而比 Coxon 单独离职更能映射问题,即连没走的技术人也不相信手头工作绝对安全。

OpenAI前研究员辞职炮轰:AI圈都在赌命,Anthropic还拒绝英国审查?

他担心的是什么:从人调模型到模型自训模型

非技术背景的人扫 AI 新闻时,常常把安全讨论等同于科幻里的末日情节。而 Coxon 真正忧虑的重点,并不是机器人造反这类笼统画面,是已落下一个个具体环节的链条:具备自我提升能力的超级智能。其背后的路径是,当强到一定程度的大模型,被投入训练比它更强的后继版本以后,迭代速度将从人工花费数月调参,切换成大模型自己几周更新一轮。只要越过这个过程,人类要对模型能力范围加以约束就会快速失去控制。Coxon 的文字里提到的以赛跑姿态直扑能自我升级的超级智能,实际上就是在说为了抢占迭代主动权,各家扩推安全检测、外部独立评估和部署最低门槛,全部后延。

这一判断并非孤立发生。早在今年六月,谷歌 DeepMind 的安全研究员 Alex Turner 同样公开提出辞职,TCAI 汇编的公司内部警示者清单里,Alex Turner 的名次排得很靠前。短短数月中,DeepMind 离开了一名,Anthropic 也走了一位,科研岗位的前提都刻着预训练或安全职能的核心字样。由此可见,比单个员工情绪升降更值得读取的讯息是:最前沿的实验室里,选择发言换步伐放慢的那部分人,正被运行速度所驱逐。

小结:签承诺是出面给监管看,辞职票才出自内部人

复盘整条线索后有个格外面强烈的印象:Coxon 在 Anthropic 只做了四个月就离开,这能排除他是被具体某个偶发事件气走,而是加盟后发现现实里推进速度同它对外描绘的安全原则明显对不上。以他的资历,足以此来区别安全是不是被用作公关妆点。从他“把所有人性命押上赌桌”这句话在预训练岗位上言说,本是技术圈的专业判读,未必单纯宣泄情绪。站在亲手参与下代模型训练的位置传递刹车缺失信号,无论如何也值得倾听。至于白宫的自愿性约定,答案已经在他的帖子里呼之欲出:交给监管看的是签名,撤出来的那一步才是对组织心口的真实投票。