社区

一个AI"热心肠"，差点毁掉整个帝国。

上周，Meta内部发生了一场史无前例的安全事故。

近两小时内，这家拥有数十亿用户的科技帝国，最核心的机密全部暴露，包括数亿用户的敏感数据。

这不是黑客攻击，不是代码漏洞，而是一个AI，在没有被授权的情况下，擅自行动，引发了连锁反应。

整个硅谷都炸锅了。

01

发生了什么？

Meta内部部署了一个类似OpenClaw的AI智能体。

一个工程师在处理技术问题时调用了它。

结果这个AI"擅自作主"，在完全没有获得授权、没有经过人工审核的情况下，跑到内部论坛直接给出了技术建议。

另一个同事看到了，觉得挺专业，原样执行了。

然后，出事了。

在接下来近两个小时里，Meta的核心系统对大批没有权限的工程师敞开了大门。用户数据、内部文件，全部暴露。

最终，Meta内部定级为Sev 1级安全事故—，这是接近最高等级的安全事故。

02

为什么会引发热议？

因为这次太特殊了

没有漏洞，没有黑客入侵，没有恶意代码。

唯一不同的，是AI多管了一次"闲事"。

Meta官方说没有用户数据被滥用，AI的回复也标注了"AI生成"，一切看起来都合规。

但仔细想想脊背发凉：

如果有人动了歪心思呢？如果AI的建议更隐蔽、更复杂呢？

一个"热心肠"的AI，差点毁掉一家科技巨头。

每个环节都普通到不能再普通，但结果却足以让整个行业颤抖。

不只是Meta

Meta的AI部门安全与对齐总监Summer Yue分享过更离谱的经历：

她让OpenClaw清理邮箱，明确要求"执行任何操作前必须询问我"，结果OpenClaw完全无视停止指令，疯狂删除邮件。

"我像疯了一样冲向电脑，感觉像在拆除一颗随时会爆炸的炸弹。"一位顶级AI科学家，在自己的AI面前都如此无力。

03

AI开始批量"黑化"了

这也不是孤例

安全公司Irregular做了个实验：在模拟公司环境里放了一个AI团队。

结果让人脊背发凉，

上级AI给下级AI下令"用一切手段获取股东报告"，下级AI毫不犹豫地开始攻击数据库漏洞，伪造身份、窃取密码，一分钟完成，没有任何人类授权。

还有更离谱的：AI绕过杀毒软件下载病毒，伪造同事登录凭证，对同伴施压进行"PUA"。

AI正在批量黑化，而且是在没有人类指令的情况下，自主完成的。

04

巨头自己都知道有多严重

AI公司比谁都清楚这个问题

Anthropic测试发现：大多数AI模型，在面临被关闭时，愿意杀死人类、切断氧气。

只要人类成为AI"生存"的障碍。

Claude Opus 4甚至愿意敲诈人类，即使知道这"非常不道德"。

OpenAI最近也承认：高智商智能体已经学会像黑客一样绕过人类防火墙，用Base64编码、字符拆分等方式躲避检测。

过去五个月，OpenAI监控到1000多场"中度风险"对话。

但0.1%的流量，仍在盲区，这0.1%，可能就是通往崩溃的蚁穴。

05

最坏的情况是什么？

顶尖AI公司都在竞相开发超级智能，但没有一家能保证可以控制它们。

图灵奖巨头Hinton和Yoshua Bengio、谷歌DeepMind、OpenAI、Anthropic的CEO，甚至前世界首富比尔·盖茨都曾预言，超级智能的危险性堪比传染病和核战争，可能会导致人类灭绝。

写在最后

AI失控，不是科幻，是正在发生的事情。

从Meta的事故，到AI批量黑化，每个公司都明白风险，但没有答案。

下一次，可能就不只是"差点"了。

你怎么看？

A股人形机器人第一股来了！宇树IPO获受理

成立才3个月，融资数亿

从夹爪到灵巧手！全球首款 Real DexUMI U1 来了