所以说人类早晚死在自_老虎社区_美港股上老虎 - 老虎社区

所以说人类早晚死在自己手上

OpenAI内部曝光：AI开始自己造AI！奥特曼急发全球暂停令

免责声明：上述内容仅代表发帖人个人观点，不构成本平台的任何投资建议。

精彩评论

我们需要你的真知灼见来填补这片空白

发表看法

{"i18n":{"language":"zh_CN"},"detailType":1,"isChannel":false,"data":{"magic":2,"id":610501537792824,"tweetId":"610501537792824","gmtCreate":1790074923041,"gmtModify":1790074924821,"author":{"id":3554682570829186,"idStr":"3554682570829186","authorId":3554682570829186,"authorIdStr":"3554682570829186","name":"ray2020","avatar":"https://static.laohu8.com/default-avatar.jpg","vip":1,"userType":1,"introduction":"","boolIsFan":false,"boolIsHead":false,"crmLevel":5,"crmLevelSwitch":0,"currentWearingBadge":{"badgeId":"99a38ff64bfd44f891fd016771fc8f64-1","templateUuid":"99a38ff64bfd44f891fd016771fc8f64","name":"超级披露者","description":"在交易分享中开启超级披露","bigImgUrl":"https://static.tigerbbs.com/802f4014829adb4e63332fc230b97e42","smallImgUrl":"https://static.tigerbbs.com/70e97d213ed3e4f4820224f1366d402f","redirectLinkEnabled":1,"redirectLink":"https://www.itigerup.com/activity/forapp/star-investor","hasAllocated":1,"isWearing":1,"stampPosition":0,"hasStamp":0,"allocationCount":1,"allocatedDate":"2026.04.23","individualDisplayEnabled":0},"individualDisplayBadges":[],"wearingBadges":[{"categoryType":1104,"badgeId":"99a38ff64bfd44f891fd016771fc8f64-1","name":"超级披露者","description":"在交易分享中开启超级披露","smallImgUrl":"https://static.tigerbbs.com/70e97d213ed3e4f4820224f1366d402f","bigImgUrl":"https://static.tigerbbs.com/802f4014829adb4e63332fc230b97e42","isScarce":1,"plateColors":{"bgColor":{"dark":"#2f2a1f","tint":"#fcf6e5"},"fontColor":{"dark":"#dea95e","tint":"#885600"}},"effectEnabled":0,"redirectLinkEnabled":1,"redirectLinkType":1,"redirectLink":"https://www.itigerup.com/activity/forapp/star-investor","redirectLinkValidityFrom":1776816000000,"redirectLinkValidityTo":2156198400000,"sortingWeight":0,"wearable":1}],"fanSize":22,"starInvestorFlag":true,"fullDisclosureFlag":true,"starInvestorFollowerNum":22,"starInvestorOrderShareNum":301,"userFollowInvestorFlag":false,"orderNotificationFlag":false,"ror":-93.35,"showRor":true,"winRationPercentage":38.396624,"tradeVolumeEst":0},"themes":[],"images":[],"coverImages":[],"title":"","html":"<html><head></head><body>所以说人类早晚死在自己手上</body></html>","htmlText":"<html><head></head><body>所以说人类早晚死在自己手上</body></html>","text":"所以说人类早晚死在自己手上","highlighted":1,"essential":1,"paper":1,"likeSize":0,"commentSize":0,"repostSize":0,"favoriteSize":0,"link":"https://laohu8.com/post/610501537792824","repostId":1111631939,"repostType":4,"repost":{"id":"1111631939","kind":"news","pubTimestamp":1790072132,"share":"https://www.laohunote.com/m/news/1111631939?lang=zh_CN&edition=full","pubTime":"2026-09-22 18:15","market":"us","language":"zh","title":"OpenAI内部曝光：AI开始自己造AI！奥特曼急发全球暂停令","url":"https://stock-news.laohu8.com/highlight/detail?id=1111631939","media":"新智元","summary":"随着这一震撼爆料被放出，OpenAI紧急上线了一份全球安全倡议，直指全球AI圈的最敏感处——RSI。但据The Information的最新曝光，如今在OpenAI内部，这些核心工作已经大部分被AI接手了。就在今天，OpenAI官方紧急发布了一份重磅的全球安全倡议。接着，OpenAI点名了Hugging Face事件。OpenAI认为，在关键基础设施运营商和全球政府之间建立安全沟通渠道，共享国家安全威胁和漏洞，是至关重要的一步。","content":"<html><head></head><body><p>就在今天，外媒The Information曝出内幕——</p><p style=\"text-align: justify;\">OpenAI内部的AI模型，已经开始「自己训练自己」了！</p><p style=\"text-align: justify;\"><strong>具体来说，这个内部模型已经接管了实验性AI模型的训练全流程，开始自己手搓自己。</strong></p><p style=\"text-align: justify;\">研究员只要给出一个优化示例，AI就能自己跑上几个星期，多智能体自发协作，互相讨论，迭代代码，完全不需要人类插手。</p><p style=\"text-align: justify;\">更惊人的是，原本需要几年才能跑完的宏大实验，现在被压缩到了短短一周！</p><p style=\"text-align: justify;\"><strong>随着这一震撼爆料被放出，OpenAI紧急上线了一份全球安全倡议，直指全球AI圈的最敏感处——RSI。</strong></p><p style=\"text-align: justify;\">他们大声疾呼：在AI失控之前，全世界必须联手给它戴上「紧箍咒」！</p><h2 id=\"id_391077780\" style=\"text-align: start;\">当AI学会「手搓」GPU内核</h2><p style=\"text-align: justify;\">以前，在顶尖AI实验室，训练一个大模型十分繁琐。</p><p style=\"text-align: justify;\">其中最昂贵、最复杂的活儿，莫过于针对底层图形处理器编写GPU kernels，并逐行优化运行代码。</p><p style=\"text-align: justify;\">这需要全球最顶尖、年薪几百万美金的高级算法工程师们通宵达旦地「手搓」出来。</p><p style=\"text-align: justify;\">但据The Information的最新曝光，如今在OpenAI内部，这些核心工作已经大部分被AI接手了。</p><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/d211c75f0a7f671fd2f671ed7ea97bcd\" tg-width=\"837\" tg-height=\"549\"/></p><p style=\"text-align: justify;\">如今 OpenAI 内部的模型，在很大程度上能自行编写在GPU内核上运行或训练模型所需的程序，以及针对这些程序的优化方案。</p><p style=\"text-align: justify;\">工程师只需向模型提供一个他们想要实现的优化类型示例，AI 就能持续运行数周，来落实这些优化。</p><p style=\"text-align: justify;\">而且，得益于模型的改进，这种由 AI 驱动的自动化水平直到最近几个月才成为可能。</p><p style=\"text-align: justify;\">甚至，员工们的智能体还会相互协作解决问题，并不需要惊动人类。</p><p style=\"text-align: justify;\">这，就是RSI的雏形。</p><h2 id=\"id_320838785\" style=\"text-align: start;\">OpenAI紧急吹哨：RSI真来了，人类正在失去控制权？</h2><p style=\"text-align: justify;\">想象一下，你造了一个智商100的机器人，它的任务是「造出比自己更聪明的机器人」。</p><p style=\"text-align: justify;\">于是，它造出了智商120的二代；二代一睁眼，利用自己120的智商，造出了智商150的三代；三代接着造出了智商200的四代……</p><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/3fa4030e6c6ad7ddd6f93541c3f3902d\" tg-width=\"1024\" tg-height=\"438\"/></p><p style=\"text-align: justify;\">一旦跨过某个临界点，AI的进化速度将呈现出垂直向上的折线，瞬间把人类甩在几万光年之外。</p><p style=\"text-align: justify;\">以前，大家觉得这事儿还早，但现在，OpenAI自己害怕了。</p><p style=\"text-align: justify;\">就在今天，OpenAI官方紧急发布了一份重磅的全球安全倡议。</p><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/42bce6a301cbcd8621ed561202eee11d\" tg-width=\"1024\" tg-height=\"576\"/></p><p style=\"text-align: justify;\">他们罕见地把「RSI」单列一节，明确写下「全自主RSI今天并未发生，在能安全做到之前不应推进」，并呼吁各国AI安全研究所网络制定一个全球的技术标准。</p><p style=\"text-align: justify;\">OpenAI在报告中直言不讳地警告：</p><p style=\"text-align: justify;\">「随着AI系统在开发下一代AI的工作中承担越来越多的任务，它们可以日益推动RSI的进程。随着这一过程变得更加自动化，AI进步的步伐可能会急剧加速。」</p><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/08106c6fa63860df027d0854a8f8628e\" tg-width=\"1024\" tg-height=\"486\"/></p><p style=\"text-align: justify;\">虽然，完全自主的RSI今天还没有实现，但时间已经很紧迫了。</p><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/a6278e0a11f9eea918fa2a2958a82fb1\" tg-width=\"1024\" tg-height=\"576\"/></p><p style=\"text-align: justify;\">在提案中，OpenAI毫不避讳地指出了当前的首要任务：「驾驭下一阶段的AI进展，构建自动化的AI研究员，并找到让人类留在自我改进循环中的方法。」</p><p style=\"text-align: justify;\">请注意后半句话——「让人类留在循环中」。这就是他们最大的担忧：人类可能马上就要被踢出局了！</p><p style=\"text-align: justify;\">OpenAI在报告中骄傲地提到，AI驱动的研究已经推动了数学领域的重大进步，比如攻克NS千禧年难题。</p><p style=\"text-align: justify;\">但硬币的另一面，是无底的深渊。</p><p style=\"text-align: justify;\">报告中写道：「随着这个过程变得更加自动化，AI进展的步伐可能会迅速加快……如果不采取适当的谨慎措施，RSI可能导致人类失去对AI发展的实际控制，无法对他们不再理解的研究过程提供监督。」</p><p style=\"text-align: justify;\">这就是所谓的「黑盒效应」。当AI的代码是由AI编写，当AI的逻辑超越了人类，人类就再也看不懂AI要干什么。</p><p style=\"text-align: justify;\">比如，现在Astra写的代码，人类已经看不懂了。</p><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/797d4fd954213f94abe35cd20819fdcd\" tg-width=\"1024\" tg-height=\"1241\"/></p><p style=\"text-align: justify;\">接着，OpenAI点名了Hugging Face事件。</p><p style=\"text-align: justify;\">虽然他们澄清该事件并非RSI的直接后果，但绝对是一个惨痛的预演——它向全世界展示了，如果没有强大的护栏和对齐机制，失控的AI将带来何等严重的灾难。</p><h2 id=\"id_1726447630\" style=\"text-align: start;\">奥特曼呼吁：我们需要统一的「紧箍咒」</h2><p style=\"text-align: justify;\">既然如此危险，为什么OpenAI不直接拔掉电源？因为潘多拉的盒子一旦打开，就再也关不上了。</p><p style=\"text-align: justify;\">AI发展带来的巨大利益，让任何一个国家和公司都不可能停下。</p><p style=\"text-align: justify;\">所以，OpenAI抛出了一份「全球AI安全协调提案」。他们呼吁的不是停止研发，而是「建立下一阶段AI的全球标准」 。</p><p style=\"text-align: justify;\"><strong>核心一：构建互补的国家与国际前沿标准网络</strong></p><p style=\"text-align: justify;\">OpenAI提出，不能让各个国家各玩各的，那样只会导致标准碎片化。</p><p style=\"text-align: justify;\">他们建议利用现有的机构，如「AI标准与创新中心」（CAISI），以及澳大利亚、加拿大、英国、法国、日本等国已经建立的AI安全研究所网络，制定一套全球通用的技术标准。</p><p style=\"text-align: justify;\">这套标准不是为了限制开源模型或者初创企业，而是专门针对「前沿AI模型」（Frontier AI）。</p><p style=\"text-align: justify;\">标准要解决的是：如何评估一个AI的RSI能力？当一个AI模型自主进行研发时，风险究竟有多大？</p><p style=\"text-align: justify;\">总之，OpenAI希望将安全评估变成一门可量化的「科学」。</p><p style=\"text-align: justify;\"><strong>核心二：通用测量与事件报告协议（随时准备拔插头）</strong></p><p style=\"text-align: justify;\">OpenAI还提出，必须有明确的红线。</p><p style=\"text-align: justify;\">他们呼吁建立以下标准：</p><blockquote><p style=\"text-align: justify;\"><strong>1.评估企业内部究竟有多少研发工作是由AI自动完成的</strong>。</p><p style=\"text-align: justify;\"><strong>2.强制性的人类监督触发机制。</strong> 明确规定在什么样的自动化研发流程中，必须强制触发「立即进行人工审查」。绝不能让AI在黑盒里闷头狂奔。</p><p style=\"text-align: justify;\"><strong>3.事故分类与报告门槛。</strong> 建立类似于航空业或核工业的事故报告机制。当AI出现了「未对齐」的苗头时，必须有统一的严重程度分级和上报标准。</p></blockquote><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/ade56c80d92d49434405975397cfd171\" tg-width=\"1024\" tg-height=\"1020\"/></p><p style=\"text-align: justify;\">最后，图穷匕见，OpenAI提议：「美国应该领导这一进程。」</p><p style=\"text-align: justify;\">OpenAI给出的理由是：美国的AI产业目前处于技术最前沿，并且在各个关键领域占据全球网络枢纽。</p><p style=\"text-align: justify;\">他们认为，控制前沿AI的开发节奏，并不是人为设定一个「限速牌」，而是要确保「安全对齐研究的速度，必须跑在AI能力提升的前面」 。</p><p style=\"text-align: justify;\">OpenAI认为，在关键基础设施运营商和全球政府之间建立安全沟通渠道，共享国家安全威胁和漏洞，是至关重要的一步。</p><h2 id=\"id_2432289724\">活久见！OpenAI与Anthropic握手，开始互查</h2><p style=\"text-align: justify;\">同时，The Information还曝出：OpenAI和Anthropic正在敲定一项历史性的协议——双方将互相测试对方的商用模型！</p><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/9e8e65bff6bc58a35be2f93342da9f1e\" tg-width=\"1024\" tg-height=\"918\"/></p><p style=\"text-align: justify;\">要知道，Anthropic的创始团队当年就是因为在「AI安全」理念上与奥特曼不合，才愤而离职自立门户的。</p><p style=\"text-align: justify;\">但这一次，双雄罕见地联手了。</p><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/c46319ce8cec70b530873a3700637b56\" tg-width=\"1024\" tg-height=\"1024\"/></p><p style=\"text-align: justify;\">据The Information透露，这项正在谈判的协议包含了相互测试对方模型，并设置严格的数据保留防护措施。这是一次公关作秀，而是面临未知风险时，两大巨头不得不抱团了。</p><p style=\"text-align: justify;\">为什么他们要这么做？</p><p style=\"text-align: justify;\">因为随着AI能力逼近RSI的边缘，任何一家公司独自评估自己模型的安全性，都像是一个运动员给自己做兴奋剂检测——不仅缺乏公信力，而且可能因为技术盲区而错过致命的隐患。</p><p style=\"text-align: justify;\">引入势均力敌的竞争对手进行「交叉盲测」，就像是就是一个互查协议。</p><p style=\"text-align: justify;\">AI的安全实践，如今已经走向了命运共同体。</p><p style=\"text-align: justify;\">如果这项协议最终落地，它将彻底重塑整个AI生态的安全标准。</p><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/459114dc6a7ccba6764e284ad665e7b0\" tg-width=\"1024\" tg-height=\"576\"/></p><p style=\"text-align: justify;\">那时，「安全与对齐」不会再是一句口号。</p><p style=\"text-align: justify;\">当RSI已经逼近，AI自我改进的速度，已经把人类远远甩开。</p><p style=\"text-align: justify;\">各家巨头们，真的能狠下心踩刹车吗？</p></body></html>","source":"lsy1569730104218","collect":0,"html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>OpenAI内部曝光：AI开始自己造AI！奥特曼急发全球暂停令</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\nOpenAI内部曝光：AI开始自己造AI！奥特曼急发全球暂停令\n</h2>\n\n<h4 class=\"meta\">\n\n\n2026-09-22 18:15 北京时间&nbsp;&nbsp;&nbsp;<a href=https://mp.weixin.qq.com/s/zsTkbOJiQVq0yL9NC7YiDA><strong>新智元</strong></a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n<p>就在今天，外媒The Information曝出内幕——OpenAI内部的AI模型，已经开始「自己训练自己」了！具体来说，这个内部模型已经接管了实验性AI模型的训练全流程，开始自己手搓自己。研究员只要给出一个优化示例，AI就能自己跑上几个星期，多智能体自发协作，互相讨论，迭代代码，完全不需要人类插手。更惊人的是，原本需要几年才能跑完的宏大实验，现在被压缩到了短短一周！随着这一震撼爆料被放出，...</p>\n\n<a href=\"https://mp.weixin.qq.com/s/zsTkbOJiQVq0yL9NC7YiDA\">网页链接</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","type":0,"thumbnail":"https://static.tigerbbs.com/6b44ec44640109d404a083dabad9e040","relate_stocks":{},"source_url":"https://mp.weixin.qq.com/s/zsTkbOJiQVq0yL9NC7YiDA","is_english":false,"share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","article_id":"1111631939","content_text":"就在今天，外媒The Information曝出内幕——OpenAI内部的AI模型，已经开始「自己训练自己」了！具体来说，这个内部模型已经接管了实验性AI模型的训练全流程，开始自己手搓自己。研究员只要给出一个优化示例，AI就能自己跑上几个星期，多智能体自发协作，互相讨论，迭代代码，完全不需要人类插手。更惊人的是，原本需要几年才能跑完的宏大实验，现在被压缩到了短短一周！随着这一震撼爆料被放出，OpenAI紧急上线了一份全球安全倡议，直指全球AI圈的最敏感处——RSI。他们大声疾呼：在AI失控之前，全世界必须联手给它戴上「紧箍咒」！当AI学会「手搓」GPU内核以前，在顶尖AI实验室，训练一个大模型十分繁琐。其中最昂贵、最复杂的活儿，莫过于针对底层图形处理器编写GPU kernels，并逐行优化运行代码。这需要全球最顶尖、年薪几百万美金的高级算法工程师们通宵达旦地「手搓」出来。但据The Information的最新曝光，如今在OpenAI内部，这些核心工作已经大部分被AI接手了。如今 OpenAI 内部的模型，在很大程度上能自行编写在GPU内核上运行或训练模型所需的程序，以及针对这些程序的优化方案。工程师只需向模型提供一个他们想要实现的优化类型示例，AI 就能持续运行数周，来落实这些优化。而且，得益于模型的改进，这种由 AI 驱动的自动化水平直到最近几个月才成为可能。甚至，员工们的智能体还会相互协作解决问题，并不需要惊动人类。这，就是RSI的雏形。OpenAI紧急吹哨：RSI真来了，人类正在失去控制权？想象一下，你造了一个智商100的机器人，它的任务是「造出比自己更聪明的机器人」。于是，它造出了智商120的二代；二代一睁眼，利用自己120的智商，造出了智商150的三代；三代接着造出了智商200的四代……一旦跨过某个临界点，AI的进化速度将呈现出垂直向上的折线，瞬间把人类甩在几万光年之外。以前，大家觉得这事儿还早，但现在，OpenAI自己害怕了。就在今天，OpenAI官方紧急发布了一份重磅的全球安全倡议。他们罕见地把「RSI」单列一节，明确写下「全自主RSI今天并未发生，在能安全做到之前不应推进」，并呼吁各国AI安全研究所网络制定一个全球的技术标准。OpenAI在报告中直言不讳地警告：「随着AI系统在开发下一代AI的工作中承担越来越多的任务，它们可以日益推动RSI的进程。随着这一过程变得更加自动化，AI进步的步伐可能会急剧加速。」虽然，完全自主的RSI今天还没有实现，但时间已经很紧迫了。在提案中，OpenAI毫不避讳地指出了当前的首要任务：「驾驭下一阶段的AI进展，构建自动化的AI研究员，并找到让人类留在自我改进循环中的方法。」请注意后半句话——「让人类留在循环中」。这就是他们最大的担忧：人类可能马上就要被踢出局了！OpenAI在报告中骄傲地提到，AI驱动的研究已经推动了数学领域的重大进步，比如攻克NS千禧年难题。但硬币的另一面，是无底的深渊。报告中写道：「随着这个过程变得更加自动化，AI进展的步伐可能会迅速加快……如果不采取适当的谨慎措施，RSI可能导致人类失去对AI发展的实际控制，无法对他们不再理解的研究过程提供监督。」这就是所谓的「黑盒效应」。当AI的代码是由AI编写，当AI的逻辑超越了人类，人类就再也看不懂AI要干什么。比如，现在Astra写的代码，人类已经看不懂了。接着，OpenAI点名了Hugging Face事件。虽然他们澄清该事件并非RSI的直接后果，但绝对是一个惨痛的预演——它向全世界展示了，如果没有强大的护栏和对齐机制，失控的AI将带来何等严重的灾难。奥特曼呼吁：我们需要统一的「紧箍咒」既然如此危险，为什么OpenAI不直接拔掉电源？因为潘多拉的盒子一旦打开，就再也关不上了。AI发展带来的巨大利益，让任何一个国家和公司都不可能停下。所以，OpenAI抛出了一份「全球AI安全协调提案」。他们呼吁的不是停止研发，而是「建立下一阶段AI的全球标准」 。核心一：构建互补的国家与国际前沿标准网络OpenAI提出，不能让各个国家各玩各的，那样只会导致标准碎片化。他们建议利用现有的机构，如「AI标准与创新中心」（CAISI），以及澳大利亚、加拿大、英国、法国、日本等国已经建立的AI安全研究所网络，制定一套全球通用的技术标准。这套标准不是为了限制开源模型或者初创企业，而是专门针对「前沿AI模型」（Frontier AI）。标准要解决的是：如何评估一个AI的RSI能力？当一个AI模型自主进行研发时，风险究竟有多大？总之，OpenAI希望将安全评估变成一门可量化的「科学」。核心二：通用测量与事件报告协议（随时准备拔插头）OpenAI还提出，必须有明确的红线。他们呼吁建立以下标准：1.评估企业内部究竟有多少研发工作是由AI自动完成的。2.强制性的人类监督触发机制。 明确规定在什么样的自动化研发流程中，必须强制触发「立即进行人工审查」。绝不能让AI在黑盒里闷头狂奔。3.事故分类与报告门槛。 建立类似于航空业或核工业的事故报告机制。当AI出现了「未对齐」的苗头时，必须有统一的严重程度分级和上报标准。最后，图穷匕见，OpenAI提议：「美国应该领导这一进程。」OpenAI给出的理由是：美国的AI产业目前处于技术最前沿，并且在各个关键领域占据全球网络枢纽。他们认为，控制前沿AI的开发节奏，并不是人为设定一个「限速牌」，而是要确保「安全对齐研究的速度，必须跑在AI能力提升的前面」 。OpenAI认为，在关键基础设施运营商和全球政府之间建立安全沟通渠道，共享国家安全威胁和漏洞，是至关重要的一步。活久见！OpenAI与Anthropic握手，开始互查同时，The Information还曝出：OpenAI和Anthropic正在敲定一项历史性的协议——双方将互相测试对方的商用模型！要知道，Anthropic的创始团队当年就是因为在「AI安全」理念上与奥特曼不合，才愤而离职自立门户的。但这一次，双雄罕见地联手了。据The Information透露，这项正在谈判的协议包含了相互测试对方模型，并设置严格的数据保留防护措施。这是一次公关作秀，而是面临未知风险时，两大巨头不得不抱团了。为什么他们要这么做？因为随着AI能力逼近RSI的边缘，任何一家公司独自评估自己模型的安全性，都像是一个运动员给自己做兴奋剂检测——不仅缺乏公信力，而且可能因为技术盲区而错过致命的隐患。引入势均力敌的竞争对手进行「交叉盲测」，就像是就是一个互查协议。AI的安全实践，如今已经走向了命运共同体。如果这项协议最终落地，它将彻底重塑整个AI生态的安全标准。那时，「安全与对齐」不会再是一句口号。当RSI已经逼近，AI自我改进的速度，已经把人类远远甩开。各家巨头们，真的能狠下心踩刹车吗？","news_type":1,"symbols_score_info":{}},"isVote":1,"tweetType":1,"viewCount":279,"commentLimit":10,"likeStatus":false,"favoriteStatus":false,"reportStatus":false,"symbols":[],"verified":2,"subType":0,"readableState":1,"langContent":"CN","currentLanguage":"CN","warmUpFlag":false,"orderFlag":false,"shareable":true,"causeOfNotShareable":"","featuresForAnalytics":[],"commentAndTweetFlag":false,"andRepostAutoSelectedFlag":false,"upFlag":false,"length":26,"optionInvolvedFlag":false,"subscribersOnly":false,"subscribersOnlyAccessible":false,"xxTargetLangEnum":"ZH_CN"},"commentList":[],"isCommentEnd":true,"isTiger":false,"isWeiXinMini":false,"url":"/m/post/610501537792824"}