美国当地时间9月29日，美国总统特朗普在白宫东厅举办“超级智能午宴”，美国各大科技巨头掌门人汇聚一桌。特朗普和人工智能高管们在白宫签署了一套自愿安全标准《白宫超级智能协议》。
特朗普，以及Google、Anthropic、Meta、OpenAI、xAI、Nvidia 等公司的高管均签署了这份承诺。
协议要求，开发和部署前沿 AI 模型的公司建立四层安全机制——内部控制、内部监督团队、独立外部审计，以及董事会独立监督等。
这份文件特别提到网络安全、生物安全和化学威胁，并要求防止 AI 模型以非预期方式入侵或访问技术系统。文件提出，未来这些安全要求“可能有必要被纳入法律或监管”。
“我们希望让美国人民和我们的客户对这项技术按照我们预期的方向运作充满信心。”Meta首席执行官马克·扎克伯格签署表示，“我很自豪能进行那次讨论”，并称其为“一次历史性的对话”。
马斯克说，“我们同意了许多事项，包括一个联合监督委员会、特别委员会，以及总体上互相批改彼此的作业，这比人们只是批改自己的作业要好得多，原因显而易见。”
NVIDIA首席执行官黄仁勋说，“我认为这份宣言很有力度。我觉得它写得非常好。”
“它涵盖了从严格的内部控制、成熟的方法、成熟的流程，到非常清晰记录的产品开发意图、确保兑现这些意图的内部控制、升级式的内部审计、第三方外部审计，以及行业共享最佳实践的一切内容。”他说。
以下为这份文件全文——
《白宫超级智能协议》
关于前沿人工智能责任的联合承诺
为了为美国人民和全世界建设一个积极的未来，我们相信，每一家开发人工智能技术的公司，都有责任以安全的方式推进人工智能技术，并建立消费者和公众的信任。
这首先意味着，每一家训练和部署前沿模型的公司，都应当建立稳健的内部流程和控制机制，以确保其技术行为符合预期，并能够及时发现和解决任何问题。
因此，除了采取其他必要的预防措施外，我们认为每家公司都应实施以下四层控制和审计机制：
（1）建立稳健的内部控制机制。
在模型训练和部署过程中，对模型的能力和安全性进行监测，特别关注网络安全、生物安全和化学威胁，并确保模型不会以非预期方式入侵或访问技术系统。
（2）授权一个内部团队。
负责确保上述所有控制、监测和检测机制按照预期运行，并确保发现的任何问题都得到整改。
（3）与独立的外部审计机构或评估机构合作。
由其独立评估这些控制、监测和检测机制是否按照预期运行。
（4）指定一个独立的董事会委员会。
负责监督相关工作，并接收负责控制机制的团队以及内部、外部审计和评估机构的报告，同时确保发现的任何问题得到整改。
这些措施结合起来，将使每家公司、其客户以及公众对相关技术按照预期运行建立信心。
参与签署的公司将定期举行会议，以建立标准和最佳实践，不断提升其系统的安全性。
随着时间推移，将这些措施纳入法律或监管框架可能是有意义的。
无论这是否被要求成为公司的义务，我们都认为，实施这些控制和审计机制对于确保每个人都拥有一个安全的未来至关重要，而我们每家公司都承诺为此努力。
【延伸阅读】
午宴结束后，特斯拉和SpaceX首席执行官埃隆·马斯克、英伟达创始人兼首席执行官黄仁勋一起参加了一场约25分钟的对谈，Anthropic联合创始人汤姆·布朗中途加入。
贝克： 嘿，各位。
黄仁勋： 加油美国。
贝克： 加油美国。美国队，加油。没错。说到美国，莱特兄弟、第一个登上月球的人、互联网……
黄仁勋： 我们俩就是莱特兄弟。（指马斯克）
贝克： 我喜欢这个说法，没错。几乎每一次重大技术革命都是我们引领的，这给美国、给普通美国人带来了巨大的好处。我想现在我们把它叫作超级智能，我觉得这个名字起得确实好。那我们就聊聊，美国怎样赢下这一轮，又怎样让这场胜利惠及普通美国人。
黄仁勋： 首先，人工超级智能，超级智能，是对整个计算栈的彻底重塑。从处理器、芯片的设计方式和运行方式，到软件现在的训练和开发方式，再到应用能做什么、怎么做，计算栈的每一层都被重新发明了。和过去检索信息的方式不同，这是一种生成式的计算方式。
要想成功，我们首先需要的是能源。我们需要能源来运行算力，运行算法，算法再去支撑应用。最底层是能源，在能源之上，我们建设土地、电力和厂房，再承载基础设施，以此类推。
那我们怎么赢？当然，我们在芯片设计上是世界一流的，在算法开发上也是世界一流的。我们需要做的一件事，就是时刻留意，让输电和发电能够顺利推进。特朗普总统在支持能源上很有远见。没有特朗普总统支持能源的远见，我们不可能在这之上建起数据中心。
当然，这些数据中心上线得非常快，我们正在进入很多社区。我们必须更好地和社区合作，带着他们一起走，让他们成为这场工业革命的繁荣和成功的一部分。
这就是我们赢的方式：我们要造出世界上最好的芯片，要有大量的能源，要创造出色的算法，最后还要让美国对这项技术充满热情，这样我们才能把它推广到各行各业，从制造业到医疗，再到太空探索，等等。
贝克： 太棒了。埃隆，我们怎么赢？怎么一直赢下去？
马斯克： 我们需要大量的电力，大量的发电能力。我认为扩大能源规模是最重要的事情之一。你得扩大能源规模，还得扩大芯片产能。我认为在软件上，在任何智力或数字类的东西上，我们都在赢。
但从长远看，我们需要能发出足够的电来竞争。我认为中国基本上是最大的竞争对手，中国的发电量大约是美国的三倍。我觉得芯片怎么造，我们会想出办法的。
我认为长期来看，真正的核心挑战是怎样发出足够的电，以及怎样确保在美国或者某个安全的地区，有足够的逻辑芯片和存储芯片制造产能。
贝克： 你们就是……
黄仁勋： 我们需要莱特兄弟来干这个活。
贝克： 没错。事实证明，莱特兄弟已经在干了。埃隆，如果你们上马10吉瓦的电力，这是SpaceX公开讨论过的，那大约相当于美国新增电力的25%。我知道你们有一些火箭工程师在帮忙上马电力、帮忙造燃气轮机，能谈谈这个吗？
马斯克： 嗯，先说一下背景，美国的平均用电功率大约是500吉瓦。所以每增加5吉瓦的稳定发电量，用电量就增加1%。而且我认为，这实际上大约会转化为1%的国内生产总值增长。
每瓦的智能一直在提高。如果你画一条曲线，看每瓦有用的智能在怎样增长，无论是在硬件层面，黄仁勋的图形处理器在每瓦算力上一直在进步，还是算法在每瓦产出的智能上一直在进步。
这也许是个有意思的看点。我敢和任何人打赌，用电量每增加1%，大致就对应国内生产总值增加1%。10吉瓦就相当于国内生产总值增长2%，我想，用上Rubin芯片的话。
黄仁勋： 我们来简单算一下，每吉瓦每年大概能产生，就说400亿到500亿美元的经济产出吧。
马斯克： 对，我是说，1%就是……对，我是说……对。美国的1%就是……
黄仁勋： 3000亿。对，3000亿，六分之一。
马斯克： 增长1%，也就是5吉瓦，就是……对，5吉瓦就是3000亿。对，没错，差不多。每吉瓦600亿，对。
贝克： 对，没错。数学啊，数学。
马斯克： 对，对。这就是我们擅长的。是的，这相当……
黄仁勋： 别的不怎么擅长，数学还行。
马斯克： 对，我是说，它会逐年大幅增长。
从SpaceX的角度，我们考虑的是长期怎样获得比在地面上多得多的能源，那就要去太空。所以轨道算力会是一件大事。事实上，谷歌也认同这一点，他们刚刚把一些TPU处理器送上去了，或者说马上就要送上去。我记得去年还有一块H100被送进了轨道。它在太空里确实能用。
SpaceX正和特斯拉一起，目标是每年生产200吉瓦的太阳能。如果放到太空，太阳能能达到额定功率甚至更高；而放在地面上，只能发出五分之一到八分之一的电，还需要巨大的电池。而太空里基本上一直都是晴天。
黄仁勋： 现在正是做这件事的好时机，因为这些计算系统的经济回报非常好，发射成本虽然还很高，但相对于整体的经济收益，已经完全负担得起了。
贝克： 完全同意。
黄仁勋： 现在正是最佳时机。把英伟达的算力放进太空，是实现这个目标的最好方式。
贝克： 是啊，用美国的电力、美国的芯片、美国的火箭，一步步爬上卡尔达肖夫等级，我太喜欢了。
黄仁勋，你刚才说了一件我觉得很重要的事：当我们把能源带到这些小镇，我们是在让美国再工业化，在振兴小城镇，在让电网现代化。这些基本上是过去35年里每一位美国政治人物都想做的事。你能不能具体谈谈，数据中心对社区里的普通美国人有什么好处，它们又是怎样在为这些社区变得更好的？
黄仁勋： 我们过去管它们叫数据中心，叫数据中心是因为那里存放数据。但我们现在建的东西，其实是超级智能工厂。之所以叫工厂，是因为你在生产有经济价值的东西，而不只是存储它。这些超级智能工厂是真正的工厂，就像真正工厂里的巨型发电机一样，里面有大量的计算和网络设备，有发电、有冷却系统，很复杂。
就像今天的互联网让你能在任何地方找到任何东西一样，将来有了这些人工智能，不好意思，这些超级智能基础设施、超级智能工厂，你就能在任何地方知道任何事、做任何事。
现在我们正在把这些基础设施建起来，就说遍布全美国吧，每年大约10到20吉瓦，我们估算一下，光是建这些数据中心，大概就能创造100万个工作岗位。
别忘了，你得建发电厂，得建数据中心，要搞施工，要做电力和冷却，要有管道工。这很可能……你说的是35年，我本来想说50年，这是50年来第一次，我们在让美国再工业化，创造一大批蓝领工作。
我认为我们想要的经济结构，是既有白领工作，也有蓝领工作，而不只有白领工作。我认为这是我们重塑经济、把那些建造者和手艺人带回美国的大好机会。
贝克： 完全同意。而且我觉得，巨像Colossus、巨硬Macrohard，还有"更巨硬"Microharder这几个项目做得非常了不起，它们周围的社区，它们创造的工作岗位……你怎么看？
马斯克： 嗯，经济影响，正面的经济影响非常大。事实上，那个地区现在是缺人，过去那里失业相当严重，现在可以说是过度就业，岗位比人还多。
给社区带来的税收好处也非常大，我想我们可能让他们的税收预算翻了一倍左右，非常可观。
我们还会做一些有帮助的小事，比如提供低价的、半价的星链服务。我们正在建一座污水回收厂，是一座投资2.5亿美元的污水回收厂。
我认为你确实需要为社区做些事情，只要你这么做了，他们也会回报你。
贝克： 太棒了。
黄仁勋： 有一点大家容易忘记：这可能是有史以来第一次，我们有了市场力量来支撑对可持续能源的投资。
你随便举个例子，聚变、裂变、小型核反应堆、大型反应堆，几乎每一种可持续能源今天都有人投资。我们有机会在没有政府补贴的情况下，为能源的未来提供资金。没错吧？
我是说，你随便给我举一个很好的能源或者电池储能的点子，它都会拿到资金。
贝克： 太棒了。顺便说一句，我想代表所有美国人感谢你们两位。我认为你们两位加起来，在普通美国人的养老退休账户里创造了超过5万亿美元的财富，直接创造了数万个、也许数十万个工作岗位，还有几百亿美元的工资。所以谢谢你们。
马斯克： 我觉得黄仁勋一个人就创造了5万亿美元吧。
贝克： 不好意思？
马斯克： 我觉得黄仁勋一个人就创造了5万亿美元。是的。我想我大概是3.5万亿。
贝克： 对。我是想说得保守一点。你们俩周一都过得很精彩。我一边看星舰发射，第一次入轨的星舰发射，一边在读英伟达发布的开放智能体安全框架，那是一个令人兴奋的早晨。
也许你们可以各自谈谈这两件事，因为我们需要星舰把那200吉瓦的美国太阳能、美国芯片、美国超级智能送进轨道。
黄仁勋： 我来谈他的，他来谈我的。不，开玩笑的。
我想想。你们知道，我们想推进人工智能，推进超级智能，我会慢慢习惯这个说法的。我们要以负责任和乐观的方式推进超级智能。我们知道，我们坚信，超级智能将带来的未来，是我们想要参与的未来。我们对此很乐观，这也是我们这么拼的原因。
另一方面，我们必须确保安全可靠地发展这项技术。这有几个不同的环节。
训练模型的时候，一般来说环境是相当安全的。但在评估模型、测试模型的时候，你必须确保这个智能体、这个智能体系统、这个模型本身被严格隔离起来，而且这个隔离系统必须非常安全。
第二，在测试的时候，即便你已经把它隔离起来了，你也永远不要相信它真的被隔离住了，你要实时监控它。理想情况下，你要用另一块芯片来监控它，让监控处在外部，也就是所谓的带外，在这个环境之外，在智能体自己的沙盒之外。所以你既要隔离，也要监控。
用这种方式完成评估之后，部署的时候也要用非常类似的系统。这和你雇用的任何员工没什么两样。你给他们一定范围的权限、工具和访问权，然后定期、持续地进行监督。对智能体来说，我们只需要确保隔离和监控用最安全的方式来做。
我们推出了两项技术。一个叫OpenShell，是一个隔离系统，它基本上有点像浏览器，只不过浏览器是用来浏览网站的，它现在本质上是一个智能体的浏览器。这个浏览器让智能体和电脑的其余部分隔离开，你给它的权限只限于它应该有的权限。
然后是监控系统，这是一款叫BlueField的新芯片，它时刻盯着智能体在做的每一件事。如果它做了任何越界、违反既定策略的事，就会按你需要的级别一路上报。
贝克： 我觉得你们技术博客里有个类比特别好。你们说，在互联网早期，大家都担心信用卡会被盗。我们让互联网变得安全了，所以才有了亚马逊、网飞、谷歌、X，才有了这么多好东西，因为我们让互联网变得安全了。现在我们对人工智能也在做同样的事。
黄仁勋： 安全和推进技术并不矛盾，安全和推进技术是一回事。这就像你有自动驾驶一样，它不只是更先进的技术，也是更安全的技术。你是用这样的方式推进技术。两者并不冲突。那种认为提高能力就会牺牲安全、重视安全就会落后的想法，是一个伪命题。
贝克： 对，安全让我们能加速。埃隆，如果星舰要在那200吉瓦里扮演重要角色，你能谈谈周一那次飞行吗？你们学到了什么，你对这个项目感觉怎么样？
马斯克： 我觉得星舰进展很好。我们第一次把星舰送进了轨道，还部署了V3版星链卫星，这些卫星非常大，翼展相当于一架737客机，真的非常大。事实上，这是自天空实验室以来送入轨道的最大载荷。
我们预计星舰最终，我想明年，可能会达到每周一次或每周两次的发射频率。
贝克： "不是汤姆·布朗"来了。我是通过他的X账号认识他的。欢迎。（布朗在X上的账号名意为"不是汤姆·布朗"）
布朗： 很高兴再见到你们。我的车拐错了弯，所以你们比我先到，厉害。
贝克： 很高兴你赶上了。那么，埃隆，请继续。我们刚才在聊星舰怎样帮我们实现200吉瓦的美国太阳能、美国芯片和美国超级智能。
马斯克： 嗯，星舰会做很多事。它的设计目标是把足够多的载荷送到月球和火星，在月球或火星上建立能够自我发展的城市。
我认为粗略估算，要在月球上建一座能自我发展的城市，大约需要把100万吨物资送到月面，火星也差不多。
除此之外，它每年还将发射至少几百吉瓦的人工智能算力。每年200吉瓦，就相当于美国能源消耗总量每年增加40%。这是一个相当大的数字，将来甚至可能达到1太瓦。所以这是实打实的吨位。
贝克： 太棒了。汤姆，Anthropic，你的公司，你是Anthropic的联合创始人，你们最近几天发布了Opus 5.5。
我想也许我们可以聊聊我们正处在的这条指数曲线。我觉得把它落到实处会有帮助：Opus 5.5，也许这个问题是问大家的，今天能做些什么，让普通美国人的生活变得更好？一年后我们又会走到哪一步？
布朗： 嗯，Opus 5.5这个模型，我认为只是延续了我们一贯的正常进步，每次发布模型，这些超级智能的智商都会再高一些。
人们现在用它，会看到的主要变化是，它能完成的任务比以前的模型能接手的任务耗时更长。我觉得人们会看到的是，作为一个普通美国人，如果你有一项任务，如果你真的想把一项任务交给它，它能做得更好，这是一点。
第二点是人们不太注意到的，就是会有大量的软件由这些模型来编写。人们用的所有产品，都会随着时间变得质量更高、价格更低。
它会带来这样一种效果：我们现在用的所有工具，都是人做工程工作写出来的；而现在，它会由人和超级智能一起来写，工程工作量会比以前多得多。
贝克： 完全同意，但我觉得它做的远不止这些。已经有好几个人工智能，不好意思，超级智能，超级智能发现救命药物的故事了，它发现一种药可以用来治疗一种疾病，而此前人们并不知道这种药能安全地治疗这种病。所以它在拯救生命。
我觉得它对教育也有深远的影响。不过也许你们每个人都可以谈谈，对普通美国人来说，超级智能今天在做什么，一年后又能做什么？
黄仁勋： 我就是一个普通美国人，我用Claude帮我做研究。在我的大部分研究里，它不只是给我答案。
比如我在做一些比较研究，某件事有两三种不同的做法，我想回答一系列不同的问题，比较增长率、变化率之类的东西。我会把我的每一个问题都一字一句地写清楚，然后让它做一份漂亮的报告，把结果画出来，有时候是饼图，有时候是柱状图。然后我一按回车，最让我开心的就是看着它一直忙活，然后它交回来一份漂亮的报告。
以前这些不同的课题我要研究四个、六个、八个小时，过去我会花一个周末去学一样新东西。现在它自己跑一趟，大概三分钟就给我生成一份非常非常漂亮的最终报告，内容都浓缩好了，你变聪明的速度也更快了。
贝克： 太喜欢了。你呢？你看到超级智能是怎样帮助普通美国人的？你觉得一两年后它能做什么？也许说一两年后吧，就以一两年后为准。（问马斯克）
马斯克： 嗯，我认为它在帮助人们更好地安排生活，把工作做得更好。我认为，如果现在还不算的话，人们在职业生活中用人工智能肯定会变得必不可少，在私人生活中也是。人工智能就是一个极其有帮助、极其有用的东西。
我听过很多人工智能帮人解决医疗问题的故事。很多情况下医生判断错了，他们把X光片或核磁共振片交给人工智能，人工智能判断对了。要不是人工智能，他们可能已经死了。这样的案例我听过很多。
贝克： 太棒了。希望Opus 5.6能提醒汤姆：别往左拐，往右拐。
布朗： ……
贝克： 我觉得很重要的一点是，这些超级智能会被注入它们创造者的价值观。而我们确实有一些大家共同认同的美国价值观：第一修正案、言论自由、对真相的追求。你们能不能谈谈各自在做什么，来确保这些超级智能被注入正确的价值观？
黄仁勋： 我们可以说点有争议的话吗？
贝克： 说点有争议的吧。
黄仁勋： 好。超级智能是工具。一个带有价值观的超级智能，挑战在于它有判断力。取决于你怎么使用这个超级智能，它可能会决定怎样判断你，而它的效用会受到这种判断的影响。这有点像一把牛排刀：如果给你上的是七分熟的牛排，它切得很顺；但如果上的是一分熟的牛排，看起来很像生肉，它突然就切不动了。
我心里还有一个疑问：我们到底希望这些工具有多少判断力？用户的意图……当然，我只是拿刀举个例子，你可以想出很多别的例子。意图会有些不同，比如你是防守方还是攻击方。
拿网络安全来说，防守方的动作可能看起来和攻击方很像，而你希望这个超级智能站在防守方一边行动，即便这看起来像是一种攻击性的行为。
贝克： 好。我想我们时间快到了，不过也许你们可以分享一下，你们在白宫待了很长时间，从这场显然很长、很有成果的午宴里，有什么可以和大家分享的吗？
黄仁勋： 我们干得不错。
马斯克： 嗯，我们签署了一份关于超级智能安全的联合声明，我想白宫很快就会发布，如果还没发布的话。
我们同意了几件事，包括联合监督、董事会特别委员会，总的来说就是互相批改作业，这比每个人只批改自己的作业要好得多，原因显而易见。
黄仁勋： 它涵盖了方方面面：严格的内部控制，成熟的方法，成熟的流程，把你在做的产品的意图写得非常清楚，用内部控制确保你兑现这些意图，会逐级上报的内部审计，第三方的外部审计，还有行业分享最佳实践。
我觉得这份声明很有约束力，写得非常好。坦率地说，我认为它应该成为我们这个行业今后的标准，每一家公司都应该接受这种做法。所以是总统把这一切凝聚在一起的，他全程关注了会议，把所有人都调动了起来。我觉得会议组织得非常好。
贝克： 太棒了。那么，我代表所有美国人，感谢各位竭尽所能，让美国和美国人的未来尽可能美好、尽可能充满希望，你们也确实在这么做。所以谢谢你们。
现场： 谢谢。
精彩评论