2024年8月 JRE #2190节目中,风投大师Peter Thiel与Joe Rogan这个著名的阴谋论者开始一本正经的讨论,掌握了曲率/超光速旅行的外星人社会是什么样的。 Thiel十分严谨推理道: It's not that they might be demons or angels, it's that they must be demons or angels, if you have faster than light travel. 掌握了超光速旅行的外星人,不是“有可能”成为魔鬼或天使,而是他们“必须同时”是魔鬼或天使。 这个同时投资了Anthropic和OpenAI的科技投资人是这样说的: 超光速旅行是一种极为强力的武器,在你没有察觉之前就会打击到你,根本无法防御,在对手可以在对方反应前,就可以占领宇宙。 于是拥有这种技术的文明,社会层面必须发生某种极端的事,而且是两条完全互斥出路: 1.魔鬼:极权蜂巢,心灵融合,这样没有任何个体能独自发射曲率武器; 2.天使:完全利他、无自利,根本不会去发射武器去占领其他人。 在这个美国科技界呼风唤雨的人看来,掌握不可防御武器的文明,不存在所谓的中间态:你必须同时既是魔鬼,又是天使,才能够用得好这种不可预测的武器。 这未必不是对当今的AI减速论的一种映射。 01 当Amodei讲减速的时候,他在讲什么 Amodei讲AI因为太危险要降速,OpenAI Sam altman同时同意。 真正的魔鬼其实在Dario和Same的提议细节里: Amodei主张:1、第三方驻场评估;2、美国势力范围内能力增速限制,全球协调;3、对中国仍然芯片管制。 Sam同意,并说监管只打在前沿模型上,训练管线可审计,发布许可,对齐流程,产品责任。 只有有资金,有法务,有安全团队,能游说国会山制定审计规则的top2-5实验室能够扛得住