云巨头两面下注：亚马逊云科技既要原研AI芯片，又要英伟达GPU

澎湃新闻04-16

曾几何时，或者说就在短短几年之前，数据中心芯片市场还是个资金门槛极高但却相对简单的市场。CPU战团主要有英特尔、AMD和Arm，GPU阵营则是英伟达、AMD和英特尔等厂商的舞台。尽管AI初创公司数量可观，但普遍并未在数据中心领域建立起真正的话语权。但最近一段时间，情况发生了巨大变化。除了英特尔、AMD、英伟达和Arm等老面孔之外，芯片领域出现了更多选择。一方面是持续生成、体量庞大且不断增长的待分析...

网页链接

免责声明：本文观点仅代表作者个人观点，不构成本平台的投资建议，本平台不对文章信息准确性、完整性和及时性做出任何保证，亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白

发表看法

{"i18n":{"language":"zh_CN"},"isChannel":false,"data":{"share":"https://www.laohu8.com/m/news/2427133895?lang=zh_CN&edition=full","thumbnail":"","is_english":false,"pubTime":"2024-04-16 12:35","share_image_url":"https://static.laohu8.com/9a95c1376e76363c1401fee7d3717173","id":"2427133895","market":"us","top_or_hot":-1,"title":"云巨头两面下注：亚马逊云科技既要原研AI芯片，又要英伟达GPU","media":"澎湃新闻","content":"<div>\n<p>曾几何时，或者说就在短短几年之前，数据中心芯片市场还是个资金门槛极高但却相对简单的市场。CPU战团主要有英特尔、AMD和Arm，GPU阵营则是英伟达、AMD和英特尔等厂商的舞台。尽管AI初创公司数量可观，但普遍并未在数据中心领域建立起真正的话语权。但最近一段时间，情况发生了巨大变化。除了英特尔、AMD、英伟达和Arm等老面孔之外，芯片领域出现了更多选择。一方面是持续生成、体量庞大且不断增长的待分析...</p>\n\n<a href=\"http://gu.qq.com/resources/shy/news/detail-v2/index.html#/?id=nesSN202404161235278b28d327&s=b\">网页链接</a>\n\n</div>\n","source":"tencent","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>云巨头两面下注：亚马逊云科技既要原研AI芯片，又要英伟达GPU</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n云巨头两面下注：亚马逊云科技既要原研AI芯片，又要英伟达GPU\n</h2>\n\n<h4 class=\"meta\">\n\n\n2024-04-16 12:35 北京时间&nbsp;&nbsp;&nbsp;<a href=http://gu.qq.com/resources/shy/news/detail-v2/index.html#/?id=nesSN202404161235278b28d327&s=b><strong>澎湃新闻</strong></a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n<p>曾几何时，或者说就在短短几年之前，数据中心芯片市场还是个资金门槛极高但却相对简单的市场。CPU战团主要有英特尔、AMD和Arm，GPU阵营则是英伟达、AMD和英特尔等厂商的舞台。尽管AI初创公司数量可观，但普遍并未在数据中心领域建立起真正的话语权。但最近一段时间，情况发生了巨大变化。除了英特尔、AMD、英伟达和Arm等老面孔之外，芯片领域出现了更多选择。一方面是持续生成、体量庞大且不断增长的待分析...</p>\n\n<a href=\"http://gu.qq.com/resources/shy/news/detail-v2/index.html#/?id=nesSN202404161235278b28d327&s=b\">网页链接</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":"BK4533","symbol_name":"AQR资本管理(全球第二大对冲基金)","start_time":0,"source_url":"http://gu.qq.com/resources/shy/news/detail-v2/index.html#/?id=nesSN202404161235278b28d327&s=b","article_id":"2427133895","we_media_id":null,"thumbnails":[],"rights":{"source":"tencent","url":"http://gu.qq.com/resources/shy/news/detail-v2/index.html#/?id=nesSN202404161235278b28d327&s=b","rn_cache_url":null,"customStyle":"body{padding-top:10px;}#news_title{font-weight:bold;#titleStyle#;}#news_description span{font-size:12px;#descriptionStyle#;}.footer-note{#statement#}","selectors":".mod-LoadTzbdNews, body","filters":".relate-stock, .hot-list, .recom-box, .wx-sou","directOrigin":true},"url":"https://stock-news.laohu8.com/highlight/detail?id=2427133895","pubTimestamp":1713242100,"sourceInfo":{"source_id":"tencent","name":"腾讯"},"weMediaInfo":null,"summary":"亚马逊云科技还掌握着大量英伟达GPU，即AI计算的基石。亚马逊云科技EC2产品管理总监Chetan Kapoor表示，亚马逊目前已做好使用英伟达GPU、Trainium和Inferentia的准备，但未来的发展方向仍须进一步探索。上个月末，亚马逊云科技向AI厂商Anthropic进一步投资27.5亿美元，意味着对其总投资已经达到40亿美元。为了运行该系列模型，亚马逊云科技坚持使用现有英伟达GPU配合自家芯片。此外，英伟达也在继续扩大其GPU系统在原始性能方面的优势。","collect":0,"end_time":0,"defaultTopTitle":"qq.com","property":[],"viewcount":null,"language":"zh","relate_stocks":{"BK4533":"AQR资本管理(全球第二大对冲基金)","IE00BMPRXN33.USD":"NEUBERGER BERMAN 5G CONNECTIVITY \"A\" (USD) ACC","LU0211328371.USD":"TEMPLETON GLOBAL EQUITY INCOME \"A\" (MDIS) (USD)   INC","LU0109392836.USD":"富兰克林科技股A","LU0310799852.SGD":"FTIF - Templeton Global Equity Income A MDIS SGD","BK4566":"资本集团","LU0198837287.USD":"UBS (LUX) EQUITY SICAV - USA GROWTH \"P\" (USD) ACC","BK4535":"淡马锡持仓","BK4220":"综合零售","IE0004445015.USD":"JANUS HENDERSON BALANCED \"A2\" (USD) ACC","LU0011850046.USD":"贝莱德全球长线股票 A2 USD","BK4538":"云计算","BK4559":"巴菲特持仓","BK4550":"红杉资本持仓","LU0097036916.USD":"贝莱德美国增长A2 USD","LU0511384066.AUD":"SUSTAINABLE GLOBAL THEMATIC PORTFOLIO \"A\" (AUDHDG) ACC","NVDA":"英伟达","LU0320765059.SGD":"FTIF - Franklin US Opportunities A Acc SGD","IE00B3M56506.USD":"NEUBERGER BERMAN EMERGING MARKETS EQUITY \"A\" (USD) ACC","BK4534":"瑞士信贷持仓","BK4122":"互联网与直销零售","IE00BD6J9T35.USD":"NEUBERGER BERMAN NEXT GENERATION MOBILITY \"A\" (USD) ACC","BK4551":"寇图资本持仓","LU0444971666.USD":"天利全球科技基金","LU0289961442.SGD":"SUSTAINABLE GLOBAL THEMATIC PORTFOLIO \"AX\" (SGD) ACC","LU0130103400.USD":"Natixis Harris Associates Global Equity RA USD","IE0034235188.USD":"PINEBRIDGE GLOBAL FOCUS EQUITY \"A\" (USD) ACC","LU0149725797.USD":"汇丰美国股市经济规模基金","LU0127658192.USD":"EASTSPRING INVESTMENTS GLOBAL TECHNOLOGY \"A\" (USD) ACC","LU0466842654.USD":"HSBC ISLAMIC GLOBAL EQUITY INDEX \"A\" (USD) ACC","BK4549":"软银资本持仓","LU0289941410.SGD":"AB FCP I Dynamic Diversified AX SGD","LU0289739343.SGD":"SUSTAINABLE GLOBAL THEMATIC PORTFOLIO \"A\" (SGD) ACC","BK4548":"巴美列捷福持仓","IE00B775SV38.USD":"NEUBERGER BERMAN US MULTICAP OPPORTUNITIES \"A\" (USD) ACC","AMZN":"亚马逊","LU0238689110.USD":"贝莱德环球动力股票基金","LU0170899867.USD":"EASTSPRING INVESTMENTS WORLD VALUE EQUITY  \"A\" (USD) ACC","LU0234570918.USD":"高盛全球核心股票组合Acc Close","IE00BJJMRX11.SGD":"Janus Henderson Balanced A Acc SGD","IE00BJTD4V19.USD":"NEUBERGER BERMAN US LONG SHORT EQUITY \"A1\" (USD) ACC","LU0072462426.USD":"贝莱德全球配置 A2","LU0312595415.SGD":"Schroder ISF Global Climate Change Equity A Acc SGD","BK4554":"元宇宙及AR概念","LU0079474960.USD":"联博美国增长基金A","IE00BJJMRY28.SGD":"Janus Henderson Balanced A Inc SGD","BK4532":"文艺复兴科技持仓","LU0056508442.USD":"贝莱德世界科技基金A2","LU0640476718.USD":"THREADNEEDLE (LUX) US CONTRARIAN CORE EQ \"AU\" (USD) ACC","BK4567":"ESG概念"},"translate_title":"Cloud giants hedge their bets: Amazon cloud technology requires both original AI chips and Nvidia GPUs","themeId":null,"isJumpTheme":false,"ttsUrl":null,"symbols_score_info":{"NVDA":1,"AMZN":1},"content_text":"曾几何时，或者说就在短短几年之前，数据中心芯片市场还是个资金门槛极高但却相对简单的市场。CPU战团主要有英特尔、AMD和Arm，GPU阵营则是英伟达、AMD和英特尔等厂商的舞台。尽管AI初创公司数量可观，但普遍并未在数据中心领域建立起真正的话语权。但最近一段时间，情况发生了巨大变化。除了英特尔、AMD、英伟达和Arm等老面孔之外，芯片领域出现了更多选择。一方面是持续生成、体量庞大且不断增长的待分析数据素材，另一方面则是快速涌现的生成式AI与大语言模型——两股驱力交织之下催生出无数希望在市场上占据一席之地的芯片初创公司。此外还有亚马逊云科技、即将推出Maia 100的微软以及掌握张量处理单元（TPU）的Google Cloud等超大规模基础设施运营商，他们都在努力打造自己的原研处理器方案。市场上已经存在大量芯片可供选择，云基础设施服务商则在整合现有成果方面发挥着重要作用。目前，大约70%的AI工作负载都运行在云端，而且随着企业更多采用AI技术并扩展相关工作负载，这一数字预计还将保持增长。在亚马逊云科技方面，其拥有自研的Trainium（顾名思义，用于训练类AI工作负载）与Inferentia（明显是面向AI推理用例），再加上旗下颇具知名度的Graviton CPU与Nitro DPU——这一切都要归功于其2015年收购的以色列芯片设计公司Annapurna。亚马逊云科技还掌握着大量英伟达GPU，即AI计算的基石。随着AI技术的兴起，特别是生成式AI技术的加速创新与应用，新的处理器环境正在形成，也要求亚马逊及其他云服务商不得不加以适应并尝试驾驭。亚马逊云科技EC2产品管理总监Chetan Kapoor表示，亚马逊目前已做好使用英伟达GPU、Trainium和Inferentia的准备，但未来的发展方向仍须进一步探索。Kapoor在采访中解释称，“我们正处于探索问题解决方法的早期阶段。目前可以确定的是，AI应用领域的实际需求正在快速增长，我们还有很大的空间继续提升英伟达产品的应用规模。与此同时，我们也将继续扩大原研Trainium和Inferentia芯片的容量。目前想要判断这部分市场的发展前景还为时过早，但我们认为最终结果应该不会是零和游戏。随着需求的指数级增长，我们的英伟达GPU集群规模将保持显著增长；而在另一方面，我们将继续寻找机会将Trainium和Inferentia引入各类外部及内部用例。”与其他竞争对手一样，亚马逊云科技正在全力开发AI，而目前最大的问题在于该如何设定内部研发目标、又该怎样挑选市场投资对象。上个月末，亚马逊云科技向AI厂商Anthropic进一步投资27.5亿美元，意味着对其总投资已经达到40亿美元。几周之前，这家云巨头宣布Anthropic的Claude 3系列模型正在Amazon Bedrock AI托管服务之上运行。这与微软同OpenAI（投资超过100亿美元）以及谷歌同Anthropic（投资超过20亿美元）的合作伙伴关系可谓是遥相呼应。为了运行该系列模型，亚马逊云科技坚持使用现有英伟达GPU配合自家芯片。而负责EC2硬件加速业务的Kapoor表示，亚马逊“将继续与其他提供商保持合作，采用英特尔或AMD等其他厂商带来的真正引人注目、而且能够为我们现有英伟达解决方案带来补充的产品。我们非常乐意在这部分应用场景内与各方开展合作。”亚马逊云科技在最近的GTC 2024展会上进一步加大了对英伟达的支持力度，表示将与微软Azure、Google Cloud和甲骨文云基础设施一样，着手采用该GPU制造商推出的新款Blackwell GPU。其中最值得一提的当数GB200 Grace Blackwell超级芯片，这款产品搭载双B200 GPU，并通过600 GB/秒NVLink互连接入单块Grace CPU。目前还不清楚其他AI芯片能否同样登陆亚马逊云科技的运行环境。Groq、Mythic及SambaNova Systems等厂商也在为AI工作负载开发处理器，但Kapoor表示问题的答案不仅取决于加速器本身。另一方面，OpenAI公司CEO Sam Altman也提出由该公司自行设计AI训练与推理芯片，这明显是看到市场对于英伟达GPU的需求猛增，因此想通过原研方式补充紧张供应、满足AI工作负载的运行需求。他感叹道，“芯片制造真的非常困难，而构建服务器、管理并部署数万甚至数十万张加速器则是难上加难。而更具挑战性的，是在此基础之上建立起能够真实利用算力资源的开发者生态系统。根据我们的经验，芯片只是产品侧的一部分，并不足以决定一切。我们还需要考虑如何将芯片配置为计算平台、如何加以管理和扩展、找到其中最重要的影响因素、把握解决方案的易用性水平、衡量产品拥有哪些可用的开发者生态系统，以及客户能够以怎样的速度完成芯片部署及实际应用等等。”生成式AI的加速普及背景，意味着组织根本不可能花费几个月时间学习并使用新的硬件架构。只有那些既易于上手、又具有成本效益的整体架构，才能得到受众群体的接纳和喜爱。Kappor表示，“必须要以芯片为中心建立起开发者社区，才能在该领域产生真正的吸引力。如果有一家初创公司能够实现这一壮举，那可就太好了，而且他们必将获得市场成功。所以从这个角度来分析，未来真正能够胜出的芯片必须具备高性能、低成本、广泛可用且上手门槛极低——哪怕是对于老牌芯片巨头来说，同时满足这么多目标也将非常非常困难。”但各组织正承受着巨大压力，必须采用AI以保持与竞争对手之间的相对关系。在这些企业看来，基础设施层面的AI工作负载运行决策，往往取决于实际解决方案的性能和成本水平。Kappor解释称，“我们将看到这样的趋势：一部分客户只关注上市速度，而对对于支出优化问题表现得比较宽容。这部分客户往往更青睐基于英伟达的解决方案，因为这有助于他们尽快将产品投放市场。而在另一方面，我们也已经切实观察到了这种趋势，即部分客户会更多关注成本问题、承认自己拿不出更高的技术应用预算。在这种情况下，他们更倾向于寻求英伟达之外的替代性解决方案，在获取所需性能的同时将模型的训练和部署总成本削减30%甚至40%。正是由于存在这样的实际需求，我们及其他芯片合作伙伴的替代性解决方案才能在市场上占据一席之地。”也就是说，市场对于英伟达产品的旺盛需求将持续存在。Kapoor表示，不少新出现的基础模型都是在GPU巨头的产品之上构建而成，毕竟研究和科学界在使用英伟达硬件和软件构建并训练AI模型方面拥有着丰富经验。此外，英伟达也在继续扩大其GPU系统在原始性能方面的优势。他解释称，这家GPU巨头“不仅非常擅长构建芯片，还特别精通系统设计，在性能优化方面也做得非常出色，因此保证了他们的客户能够从这些售价极为昂贵的加速器中获取最大收益。”因此，超大规模基础设施运营商必须密切关注客户方面传来的信息。因为虽然目前约有70%的AI工作负载都运行在云端，但这一数字在未来几年还将继续增长。亚马逊云科技及其他厂商在英伟达A100及H100芯片上运行的系统已经极为复杂且规模化；而随着Blackwell的推出，其实际复杂度恐怕还将更上一层楼——这是因为Blackwell不仅需要配合液体冷却等机架集成技术，还带来了更高的部署密度。Kapoor在采访中指出，“对于此类系统的设计、构建和实际部署，会带来更持久也更复杂的实际挑战，因此我们预计此前选择在本地自行部署系统的客户将会遇上大麻烦。他们可能不具备液冷基础设施，可能缺乏在原有机架空间内充分供电的能力。而我们将为客户承担卢所有高难度工作，并将这些资源通过API供其轻松使用和启动，这意味着将有更多受众倾向于直接选择云服务。安全方面的情况也差不多，目前我们已经在知识产权层面（通常体现为模型参数、权重和偏差等）做出严格的保障承诺，并表现出极强的保护意愿与能力，客户可以放心把自己的知识产权交由我们打理并随时进行访问。”用于处理AI及机器学习工作负载的AI超级计算机也将很快面向企业客户敞开大门。根据相关报道，亚马逊云科技正在与英伟达合作构建“Project Ceiba”系统。另据报道，微软和OpenAI则正在规划“Stargate”星际之门超级计算机。甚至由多处数据中心共同组成的超大规模超级计算机也将在不久的未来与广大用户见面。","kind":null,"is_publish_news":null,"is_publish_highlight":null,"is_publish_live":null,"is_publish_wemedia":null,"editions":null,"symbols":[],"gpt_button":1},"commentList":[],"isCommentEnd":true,"newsSizeData":{"likeSize":0,"commentSize":0,"repostSize":0,"favoriteSize":0,"likeStatus":false,"favoriteStatus":false},"APP":{"userAgent":"Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)","isDev":false,"isTTM":false,"deviceId":"web-server-community-laohu8-v3","version":"4.22.4","shortVersion":"4.22.4","platform":"web","vendor":"web","appName":"laohu8","isIOS":false,"isAndroid":false,"isTiger":false,"isTHS":false,"isWeiXin":false,"isWeiXinMini":false,"isWeiBo":false,"isQQ":false,"isBaiduSwan":false,"isBaiduBox":false,"isDingTalk":false,"isToutiao":false,"isOnePlus":false,"isHuaWei":false,"isXiaomi":false,"isXiaomiWebView":false,"isOppo":false,"isVivo":false,"isSamsung":false,"isMobile":false},"href":"/m/news/2427133895"}