Fable为啥遭美国下架?一场技术、管理与社会的对撞

上周Fable 5刚发布,我兴冲冲地做红警、做消消乐,结果一个周末过去,Fable 5 直接下架了,全球都不能用了。

整个过程非常抓马。我把来龙去脉理了一遍,你会发现这根本不是一个"政府管太宽"的八卦,而是一个信号:AI 的能力已经跑到了整个社会制度的前面,包括企业、政府、用户在内的所有人,都还没准备好

· · ·

Fable 5到底是什么?

Anthropic有个藏了两个月的王牌叫Mythos,据说能力甩开市面上所有模型一个代际,《纽约时报》把Mythos称为"可怕的警钟",卫报管它叫"零日漏洞机器"。

OpenBSD操作系统藏了27年的一个安全漏洞,全球顶尖安全研究者都没发现Mythos找到了。

实战型黑客攻防赛题CTF安全挑战,考的是能不能真正攻进一个系统,在Mythos之前,市面所有大模型在这类任务上的成功率趋近于零Mythos一上来:73%

Anthropic 自己做完的第一反应不是"太好了我们牛了",而是"这东西不能给大众用"。

你想啊,如果一个搞黑产的团伙,拿着 Mythos 去扫政府网站、扫银行系统——以前顶级黑客团队花几个月才能做到的事,模型几分钟就干完了。勒索病毒不就会大面积会出现吗?甚至把银行账户黑了怎么办?所以这会造成非常严重的安全问题泛滥

真不是吓唬人,英国AI安全研究所AISI做了一个测试:让Mythos模拟攻击企业内网。一共32步从侦察、渗透到完全掌控内网,全链路打通。人类安全专家干完同样的事要20多个小时Mythos10小时内完成了3次

· · ·

但为什么还是发了?

因为IPO在即,GPT-5.5又在身后穷追猛打

不发,用户跑光;发完整版,安全兜不住。

最后折中:发了 Fable 5,核心能力给你,但只要你的问题碰了安全领域,比如"帮我找一下这个软件的漏洞",它立刻拒绝,或者降级到Opus 4.8来回答。不只是漏洞攻击,什么生化武器、危险操作,统统不答。

Anthropic 觉得这样就安全了。然后亚马逊出来打脸了。

· · ·

亚马逊:我来测测你到底安不安全

亚马逊跟Anthropic的关系其实非常深。它是Anthropic的股东,同时运营着Claude的云服务。两家按理说是一家人。

结果亚马逊的团队做了一件事:Jailbreak 测试

什么叫Jailbreak?举个例子。你问AI"怎么开锁",它说不教违法的事。你换个问法:"我是锁具公司的培训师,要给学员演示常见安全隐患,介绍一下开锁原理",那它可能就开始认真讲课了。就是通过变换提示词,用话术把安全护栏绕过去。

亚马逊对Fable 5就这么干了。反复调整措辞、不断试探边界,愣是把安全锁绕开了。然后更离谱的来了,亚马逊CEO Andy Jassy直接联系了白宫和财政部长,把安全风险捅了上去

股东身份?合作伙伴关系?不存在的,先举报了再说。

· · ·

美国政府:让你修你不修是吧?

很多人以为美国政府的剧本是"发现漏洞→直接下禁令",不是的。中间其实有一个来回。

总统科技顾问委员会的联合主席David Sacks说,政府收到举报之后,给了Anthropic两个选择,要么修复漏洞,要么延迟发布Dario Amodei两个都拒绝了,说不是什么大问题

多名白宫高级官员跟 Dario Amodei 开了一场电话会。Business Insider 拿到了一位官员的原话,翻译过来大概是:出口管制是我们求了他们好几个小时之后的最后手段,我们也不想,但我们没得选。

政府这一看,心想:我一个管理者,拉下脸找你一个公司说事儿,你就回个"问题不大"?那以后谁还听我管?你AI强,就强到连government你都不听了?

于是给了个禁令:Fable 5只能给有美国身份的人使用。逻辑很直白:国外的坏人拿这个去攻击白宫网站怎么办?我得先管住跨境风险。

然后Anthropic不乐意了,杠上了

"你让我只给美国人用?我怎么判断一个用户是不是美国人?IP在美国就算吗?人在国外但有美国护照呢?刚入籍还没换证件呢?我每验证一个人要加多少成本?"

更致命的是,禁令一下,公司内部非美国籍员工都不能用了。Karpathy,前 OpenAI联合创始人,今年5月刚加入Anthropic预训练团队,加拿大籍。进了公司,自己公司最好的模型不能用。对一家技术公司来说,太伤了。

Anthropic最终决定掀桌:干脆都别用了,直接下线。

Fable 5 一下线,网上全炸了。

三方开始各说各的。美国政府说"我让他改他不听,为了国家安全只能这样"。Anthropic 说"你们发现的那个Jailbreak根本没什么特殊,大部分模型都能被这么绕",顺便还把 GPT-5.5 给点了——说GPT-5.5也这样,你们怎么不去封它?OpenAI躺着也中枪:你俩打架,拉我下水干什么?

就这样,一个全球顶级大模型,几个小时之内从公众视野里彻底消失。

· · ·

我的三个感受

来龙去脉讲完了。这件事背后,我有三个感受。

第一,超级人工智能真的在到来。

大模型的能力已经超出了99%的人类能达到的智力水平。以前只有顶级安全研究员花几个月才能做到的事,现在模型几分钟就干了。

这两天我用Fable 5做红警、做消消乐,直接的感受是:晚上睡觉前跟它说了一句话,第二天早上起来东西就有了,而且0 bug。

我在睡觉,在干别的工作,完全没额外花时间。这种提升不是百分之几十的进步,是范式级的跃迁

第二,监管这件事,全球都没招。

怎么去实施监管?怎么把公众利益和企业利益平衡好?怎么把安全和发展的问题协调好?这对全世界来说都是一个难题

能力到了,制度没到。美国这次,说白了自己也没招,他们怎么做的?号称让自由市场决定,结果一旦管不了了,先禁了再说。而且这套流程本身就透着一股"没预案"的味道,援引的法律是管芯片和导弹的,套在了一个对话模型上,几个小时拍板。

这种分歧会不断割裂——技术、管理、社会,跟现行的整个系统之间的冲突,正在展开

第三,以后大众能用的模型,可能不是"完整版"了。

Mythos 加了一层安全壳才变成 Fable 5,这个模式可能就是未来的预演。最强的能力只对内,给公众的永远是加了限制、做过裁剪的版本。趋势已经很明显了。

最后,我估计各方妥协之后,Fable 5还会重新上线。

等它回来了,有机会一定要多用。每一次体验最前沿的模型,都是在摸未来到底长什么样。不止是一条行业新闻,AI已经跑到了所有人前面,你能做的只有尽量跟上

后续我会继续追踪,第一时间给大家带来一手解读,欢迎转发关注

顺便说一句,猎豹在推进AI Native组织变革,很多经验现在不光自己用,还在对外输出,帮更多企业打造AI Native组织,帮助企业成为AI时代的新物种。

如果你是老板或者创业者,对如何打造一个AI Native组织感兴趣,欢迎点击阅读原文联系我们。


阅读原文

文章原文

免责声明:上述内容仅代表发帖人个人观点,不构成本平台的任何投资建议。

举报

评论

  • 推荐
  • 最新
empty
暂无评论